キーワード解説
異なるGPUモデルを混在させたマルチGPU環境におけるAI推論の負荷分散
性能の異なるGPUが混在するマルチGPU環境で、各GPUの特性を考慮した効率的な推論負荷分散戦略と、それによる全体スループット最大化の手法について解説します。
0 関連記事
異なるGPUモデルを混在させたマルチGPU環境におけるAI推論の負荷分散とは
親クラスター「マルチGPU環境」の解説より性能の異なるGPUが混在するマルチGPU環境で、各GPUの特性を考慮した効率的な推論負荷分散戦略と、それによる全体スループット最大化の手法について解説します。
このキーワードが属するテーマ
このキーワードに紐付く記事はまだありません