ハルシネーション（幻覚）検出のための自己反映（Self-Reflection）型AI評価

ハルシネーション（幻覚）検出のための自己反映（Self-Reflection）型AI評価とは

ハルシネーション（幻覚）検出のための自己反映（Self-Reflection）型AI評価とは、大規模言語モデル（LLM）が生成したテキストが事実と異なる、あるいは根拠のない内容（ハルシネーション）を含んでいないかを、AIシステム自身が評価・検証する手法です。具体的には、LLMが生成した回答に対し、追加のプロンプトや別の評価用AIを用いることで、その回答の正確性、一貫性、または参照元情報との整合性を自己点検させます。これは、RAG構築の精度評価の指標の一つとして位置づけられ、AIが外部の知識を参照してもなお発生しうるハルシネーションを、自動的かつ効率的に特定し、システムの信頼性を向上させることを目的としています。人間による評価の労力とコストを削減しながら、AIの出力品質を継続的に改善するための重要なアプローチです。

このキーワードが属するテーマ