キーワード解説

8-bit浮動小数点(FP8)を用いた最新AI推論のメモリ効率改善

最新のAI推論で採用される8-bit浮動小数点(FP8)が、どのようにメモリ効率を改善し、大規模モデルの実行を可能にするかを解説します。

0 関連記事