マルチモーダルAIにおける画像とテキストの不一致（視覚的ハルシネーション）検知

マルチモーダルAIにおける画像とテキストの不一致（視覚的ハルシネーション）検知とは

マルチモーダルAIにおける画像とテキストの不一致（視覚的ハルシネーション）検知とは、画像とテキストの両方を理解・生成するマルチモーダルAIシステムが、提示された画像の内容と矛盾するテキスト情報を生成する現象（視覚的ハルシネーション）を識別し、特定する技術です。例えば、画像には存在しない物体について言及したり、誤った属性を記述したりするケースがこれにあたります。これは、大規模言語モデル（LLM）が生成するテキストの「ハルシネーション（幻覚）」問題が、視覚情報を含む領域に拡張されたものであり、AIの信頼性と安全性を確保するために不可欠な対策とされています。特に、医療診断や自動運転など、誤情報が重大な結果を招く可能性がある分野では、この検知技術の重要性が高まっています。

このキーワードが属するテーマ