キーワード解説

文脈圧縮AIを用いたRAGプロンプトのトークン節約と効率化

RAGでLLMに渡すプロンプトの長さを最適化するため、文脈圧縮AIを活用し、トークン消費量を削減しながら情報密度を維持する効率化手法を探ります。

0 関連記事