キーワード解説
Hugging Face TGIを用いた高スループット推論パイプラインの構築
Hugging Face Text Generation Inference (TGI) を利用し、大規模言語モデルの高スループット推論パイプラインを構築する技術を詳述します。
0 関連記事
Hugging Face TGIを用いた高スループット推論パイプラインの構築とは
親クラスター「パイプライン設計」の解説よりHugging Face Text Generation Inference (TGI) を利用し、大規模言語モデルの高スループット推論パイプラインを構築する技術を詳述します。
このキーワードが属するテーマ
このキーワードに紐付く記事はまだありません