キーワード解説

SmoothQuantを活用したLlamaモデルの量子化誤差補正と精度維持アルゴリズム

Llamaモデルの量子化によって生じる誤差を補正し、精度を維持するためのSmoothQuantアルゴリズムとその活用法を解説します。

0 関連記事