Intel Arc GPUとOpenVINOを用いたローカルLLM推論加速のパフォーマンス計測

Intel Arc GPUとOpenVINOを用いたローカルLLM推論加速のパフォーマンス計測とは

Intel Arc GPUとOpenVINOツールキットを組み合わせたローカルLLMの推論加速効果を定量的に計測し、Intelハードウェアでの最適化手法を探ります。

このキーワードが属するテーマ