キーワード解説

量子化形式がLLMのPerplexity(困惑度)に与える影響の定量的評価

異なる量子化形式がLLMの言語モデルとしての性能指標であるPerplexity(困惑度)にどのような影響を与えるかを、定量的データに基づいて評価し、精度低下の傾向を分析します。

0 関連記事