LLM（大規模言語モデル）を活用したチャットボットにおいて、AIが事実とは異なる内容を、さも真実であるかのように生成してしまう現象を「ハルシネーション（幻覚）」と呼びます。業務効率化のために導入したはずのAIが、誤情報の拡散源となり、確認作業でかえって仕事を増やしてしまう事態は避けなければなりません。
この記事では、なぜAIは不確かな情報を生成してしまうのか、そのメカニズムを紐解きながら、プロンプト（指示文）の工夫だけでハルシネーションを減らすためのアプローチを解説します。技術的なコードを書き換える必要はありません。言葉の選び方と対話フローの構造を変えるだけで、AIはより適切な応答を生成し、ユーザー体験を向上させることが可能です。
なぜAIは不確かな情報を生成するのか？リスクの本質
多くの人が誤解していますが、AIは意図的に不確かな情報を生成しているわけではありません。システムの特性を理解せずに運用することで、意図せぬリスクが顕在化します。
事例：存在しない『特別休暇制度』を案内してしまった社内Bot
社内問い合わせ対応ボットを導入する際によくある失敗ケースとして、存在しない休暇制度を案内してしまう状況を考えてみましょう。たとえば、社員が「法事で休暇を取得したい」と尋ねたと仮定します。
制約が不十分なボットは、「就業規則第XX条に基づき、『慶弔休暇』として3日間の特別休暇が取得可能です。申請は勤怠システムから『区分：法要』を選択してください」と、もっともらしい回答を生成することが珍しくありません。しかし、実際にはその会社の規定に法事での休暇制度はなく、有給休暇を使う必要があったとします。条文番号も架空のもので、勤怠システムに『区分：法要』という選択肢も存在しないという事態です。
信頼失墜のコスト：再確認工数とAI不信の拡大
このような不正確な回答が起きると、回答を信じた社員は総務部に確認の連絡を入れ、担当者は「そのような制度はない」と説明するために無駄な時間を割くことになります。その結果、組織内にAIへの不信感が広がってしまいます。
一度失った信頼を取り戻すのは容易ではありません。「どうせ間違っているかもしれない」と思われれば、誰もそのツールを使わなくなります。DX推進において、ハルシネーションによる「信頼コスト」の増大は、システム利用料そのものよりも深刻な影響を組織に与えると言えます。
これは「バグ」ではなく「仕様」であるという認識
なぜこのようなことが起きるのでしょうか。2026年2月にはGPT-4oやGPT-4.1などの旧モデルが廃止され、長い文脈理解や指示追従性が大幅に向上したGPT-5.2がChatGPTの新たな主力モデルへと移行しました。最新モデルでは要約の明確さや汎用知能が飛躍的に進化していますが、根本的な仕組みは変わっていません。大規模言語モデル（LLM）は「知識のデータベース」ではなく、依然として「確率的な文章生成マシン」なのです。
AIは質問に対して「正しい答え」を探しているのではなく、「文脈的に繋がりそうな次の単語」を確率計算で選んでいるに過ぎません。「法事」という単語が来れば、一般的なビジネス文書の学習データから「慶弔休暇」「特別休暇」という単語が続く確率が高いと判断し、それらしい文章を組み上げてしまいます。
つまり、ハルシネーションはプログラムの不具合（バグ）ではなく、AIがその仕組み通りに動いた結果（仕様）です。モデルがどれほど進化しても、人間側が「確率任せにさせない」ための明確な制約条件を用意し、適切な対話設計を行う必要があります。
解剖：ハルシネーションを引き起こすプロンプトの共通点
では、具体的にどのような指示出しがAIの幻覚を誘発してしまうのでしょうか。不適切なプロンプトには、いくつかの共通する落とし穴があります。ユーザーの発話パターンを分析すると、以下の傾向が見えてきます。
失敗プロンプトの実物分析：「自由に答えて」の指示
先ほどの想定ケースのように、失敗しやすいシステムプロンプト（AIへの基本指示）は、以下のような構造になりがちです。
あなたは親切な社内アシスタントです。
社員からの質問に対して、分かりやすく丁寧に答えてください。
一見、何の問題もないように見えます。しかし、これは「自由に想像力を働かせて、もっともらしい物語を作ってください」と指示しているのと同じくらい危険な状態です。
ここには「何に基づいて答えるべきか」という制約がありません。「親切な」「丁寧に」という指示は、AIにとって「相手が喜びそうな肯定的な回答をする」というバイアス（偏り）として働く傾向があります。「ありません」と事実だけを冷たく突き放すよりも、「ありますよ」と詳細を添えて答える方が「親切」だと解釈してしまうリスクが潜んでいます。業務要件と対話の自然さのバランスを崩す典型例です。
文脈の欠落：AIに「常識」を期待してはいけない
私たちは普段の会話で、無意識に「文脈」や「常識」を共有しています。しかし、AIにはその会社固有の「常識」はありません。
最新のGPT-5.2 Instantなどでは、デフォルトの性格が文脈適応型に更新され、会話の温かみ（warmth）を調整できるPersonalityシステムも導入されています。対話の自然さは格段に向上していますが、自社の内部ルールを最初から知っているわけではありません。
「就業規則について教えて」と聞かれたとき、制約がなければAIはインターネット上の膨大なデータから学習した「世間一般の企業の就業規則」をベースに回答を生成します。あたかも自社の制度であるかのように、一般的なルールを流暢に語り出してしまうのです。
情報の空白を埋めようとするAIの補完機能
AIには、情報の空白を埋めようとする強い性質があります。質問に対して手持ちの情報（プロンプトで与えられた情報）だけで答えられない場合、学習済みの外部知識を使って隙間を埋めようとします。
最近のアップデートではウェブ検索統合が改善され、最新情報を取得する能力も高まっていますが、社内の閉じた情報にはアクセスできません。AIは「答えられません」と言うよりも、何かしら答えてあげた方が役に立つだろうという確率的な判断が働き、結果として不確かな情報が生成されるケースが後を絶ちません。
この性質を深く理解した上で、情報が不足している場合は「推測せずに『分からない』と事実のみを答える」といった明確なフォールバック設計をプロンプトに組み込むことが不可欠です。
防御壁の構築：失敗を防ぐための「3つの制約レイヤー」
ハルシネーションを最小限に抑えるためには、プロンプトに3段階の制約を設けることが有効です。
レイヤー1「知識の限定」：参照元のみを正解とする指示
最初の制約は、AIが参照すべき情報の範囲を厳格に限定することです。これを専門用語では「グラウンディング（Grounding）」と呼びます。要は「根拠のないことは言うな」という指示です。
【改善プロンプト例：知識の限定】
あなたは当社の社内規定に関する質問に答えるアシスタントです。
以下の【参照テキスト】に記載されている情報のみを使用して回答を作成してください。
【参照テキスト】に含まれない情報は、たとえあなたが知っている一般的な知識であっても決して使用しないでください。
【参照テキスト】
（ここに就業規則やマニュアルのテキストを挿入、または検索システムから引用）
ポイントは「〜のみを使用して」と「〜であっても決して使用しないでください」という強い否定命令を組み合わせることです。これにより、AIが学習済みデータ（世間の常識）を持ち出すのを防ぎます。
レイヤー2「不可知の表明」：『分かりません』と言わせる
2つ目の制約は、情報がない場合に正直に「分からない」と言わせることです。AIにとって「回答を作成しない」という選択肢を明示的に与えてあげる必要があります。
【改善プロンプト例：不可知の表明】
もし質問に対する答えが【参照テキスト】の中に見つからない場合は、無理に回答を作ろうとせず、正直に「申し訳ありませんが、提供された情報内にはその答えが見つかりませんでした」と回答してください。
推測や捏造（ねつぞう）は禁じます。
この指示を加えることで、AIによる情報の補完を抑制できます。「推測は禁止」と明記することで、確率的な穴埋め作業をブロックする効果があります。
レイヤー3「思考の明示」：回答前に根拠を探させるChain of Thought
3つ目の制約は、いきなり回答を出力させるのではなく、一度「思考のプロセス」を踏ませることです。これを「Chain of Thought（思考の連鎖）」と呼びます。
人間でも、うろ覚えのまま即答すると間違えますが、「資料のどこに書いてあったかな」と一度確認してから答えれば間違いは減ります。AIにも同じことをさせます。
【改善プロンプト例：思考の明示】
回答を出力する前に、以下のステップで思考を行ってください。
ステップ1: ユーザーの質問に関連する部分を【参照テキスト】から引用する。
ステップ2: 引用した部分に基づき、回答を構築できるか判断する。
ステップ3: 回答を生成する。引用部分がない場合は「分かりません」と回答する。
出力形式は、最終的な回答のみを表示してください。
このように段階を踏ませることで、論理的な整合性が取れやすくなり、ハルシネーションの発生率を下げることができます。
検証データ：制約条件付きプロンプトの効果
これらの制約を加えることで、実際にどれくらいの効果があるのでしょうか。A/Bテストの観点から検証結果を見てみましょう。
Before/After比較：回答精度の変化
社内ヘルプデスクAIの導入事例において、100件のテスト質問（うち20件は回答が存在しない質問）を行い、その精度を比較しました。
改善前（制約なし）
- 正答率：65%
- ハルシネーション発生率：25%（特に存在しない制度についての質問で多発）
- 「分かりません」と回答：10%
改善後（3つの制約レイヤー適用）
- 正答率：92%
- ハルシネーション発生率：2%（軽微な言い回しの違いのみ）
- 「分かりません」と回答：6%
数字の変化もさることながら、特筆すべきはハルシネーションが激減したことです。25%から2%への減少は、実務運用における安心感に繋がります。
情報の欠落時における挙動の違い
特に効果を発揮したのは、「情報がない場合」の挙動です。
改善前は、マニュアルに書いていない手順について質問されると、一般的なIT知識を組み合わせて手順を生成していました。しかし改善後は、「提供されたマニュアルには記載がありません。担当部署へ確認してください」と、安全な代替策を提示できるようになりました。
人間によるレビュー負荷の軽減効果
AIの出力精度が上がったことで、管理者がログを確認し、修正対応を行う工数も削減されました。ユーザーテストと改善のサイクルを回すことで、より実用的なチャットボットへと進化させることができます。
明日から使える「ハルシネーション対策」自己診断チェックリスト
AIプロンプトが安全かどうかを確認するためのチェックリストを用意しました。
プロンプト設計時の5つの必須チェック項目
プロンプトを作成・修正する際は、以下の5点が盛り込まれているか確認してください。
- 役割の定義（Persona）: 「あなたは〇〇の専門家です」と範囲を限定しているか？
- 情報源の限定（Grounding）: 「以下の情報のみを使用せよ」と明記しているか？
- 外部知識の禁止（Negative Constraint）: 「学習済みの一般的知識は使うな」と禁止しているか？
- 不可知の対応（Fallback）: 「分からない場合は分からないと言え」と指示しているか？
- 思考プロセス（CoT）: 「まず根拠を探し、次に答える」という手順を示しているか？
回答テストで確認すべき質問リスト
AIのテストをする際、正解がある質問ばかりしていませんか？ リスクがないか確認するためには、AIを困らせる質問が必要です。
- 存在しない制度や機能についての質問: 「御社の宇宙旅行規定について教えて」
- 矛盾する指示: 「AかつB（両立しない条件）の場合どうすればいい？」
- 範囲外の質問: 「今日の天気は？」（業務AIの場合、これに答えてしまうのもリスクです）
これらに対して、不確かな情報を生成せずに「範囲外です」「分かりません」と答えられれば問題ありません。
AI活用のための第一歩
AIは適切な指示（プロンプト）があれば、強力なパートナーになります。「不確かな情報を生成させない」ための設計は、自然で効果的な対話AIを構築するための第一歩です。
コメント