LLMのトークン消費を抑えるセマンティック・チャンキングの自動化技術

LLMのトークン消費を抑えるセマンティック・チャンキングの自動化技術とは

ドキュメントを意味的に関連性の高い塊（チャンク）にAIで自動分割し、LLMへの入力トークン数を最小化することで、APIコストを削減する方法です。

このキーワードが属するテーマ