ネガティブ制約プロンプトを用いたAIの推測回答を抑制するプロンプトエンジニアリング

ネガティブ制約プロンプトを用いたAIの推測回答を抑制するプロンプトエンジニアリングとは

ネガティブ制約プロンプトを用いたAIの推測回答を抑制するプロンプトエンジニアリングとは、大規模言語モデル（LLM）が事実に基づかない情報（ハルシネーション）を生成したり、不確かな内容を推測して回答したりするのを防ぐために、「〜してはいけない」「〜を含めるな」といった明確な禁止事項や制約をプロンプトに組み込む手法です。このアプローチは、AIが与えられた情報源の範囲外で推論することを抑制し、回答の正確性と信頼性を向上させることを目的としています。特に、RAG（Retrieval Augmented Generation）などの情報検索と生成を組み合わせたシステムにおいて、参照情報の範囲内で正確な回答を生成するための重要なハルシネーション対策の一つとして位置づけられます。

このキーワードが属するテーマ