キーワード解説
エッジデバイス向け軽量LLM(SLM)の推論速度と精度の相関検証
エッジデバイスでの利用を想定した軽量LLM(SLM)について、限られたリソース下での推論速度と生成精度の相関関係を検証します。組み込みシステムやモバイルアプリへの適用を検討します。
0 関連記事
エッジデバイス向け軽量LLM(SLM)の推論速度と精度の相関検証とは
親クラスター「LLM比較・検証」の解説よりエッジデバイスでの利用を想定した軽量LLM(SLM)について、限られたリソース下での推論速度と生成精度の相関関係を検証します。組み込みシステムやモバイルアプリへの適用を検討します。
このキーワードが属するテーマ
このキーワードに紐付く記事はまだありません