キーワード解説

WSL2でのllama.cppビルド:AVX/AVX2命令セットによるCPU推論の最適化

WSL2環境でllama.cppをビルドする際に、AVX/AVX2命令セットを有効化し、CPUベースのLLM推論パフォーマンスを最適化する手順です。

0 関連記事