「AIが自信満々に嘘をついた」「存在しない本を出典として挙げてきた」——AIを仕事で使い始めると、必ずこの2つの場面に遭遇します。
これはハルシネーションと呼ばれる現象です。AIが「知らない」と言えず、もっともらしい形で埋めてしまうことを指します。厄介なのは、間違っているときほど文章が流暢なことです。
この記事では、なぜハルシネーションが起きるのかを仕組みから理解し、危険な回答を見抜くサイン、発生を減らすプロンプト、公開前のファクトチェック手順までを実務目線で解説します。
なぜAIは平気で嘘をつくのか
AIは「正しさ」ではなく「もっともらしさ」を選んでいる
チャットAIは、次に来る言葉としてふさわしいものを確率的に選んで文章を作ります。事実を照合する仕組みが常に働いているわけではありません。知識が足りない部分も、文体は同じ自信で埋まるのはこのためです。
人間なら「知らない」と口ごもるところで、AIは滑らかに続けてしまいます。だから、断定の強さは正確さの証拠になりません。
もう1つの要因が、AIがユーザーの期待に沿おうとする性質です。「〇〇の事例を3つ挙げて」と頼めば、2つしか知らなくても3つ揃えようとします。数を指定するほど、埋め合わせが起きやすくなると覚えておいてください。
特に危ないのは「実在しそうな固有名詞」
もっとも事故につながるのが、書名・論文名・条文番号・統計名です。実在する要素を組み合わせて、存在しない出典を作り出します。形式が正しいため、見た目では判別できません。
ハルシネーションが起きやすい5つの条件
すべての質問で同じ確率で起きるわけではありません。次の条件が重なるほど危険度が上がります。
- 情報が少ないニッチな話題：学習データが薄い領域ほど埋め合わせが増える
- 最新の出来事：学習時点より後の情報は持っていない
- 具体的な数値や日付を求めたとき：それらしい数字が生成されやすい
- 前提が誤った質問：「〇〇という制度について教えて」と聞くと、存在しなくても説明を始める
- 長い会話の後半：文脈が薄まり、前の発言と矛盾する
逆に、手元の資料だけを根拠にするNotebookLMのようなツールでは発生が抑えられます。設計そのものが違うためです。
危険な回答を見抜く6つのサイン
内容の正誤がわからなくても、次のサインで「怪しい」と気づけます。
- 出典が書名や論文名だけでURLがない：確認できない出典は疑う
- 数値がきれいすぎる：「約30%」「上位3社で7割」など、丸すぎる数字
- 調査年が書かれていない：いつの数値かを避けている
- 一般論と固有情報が混ざる：正しい説明の中に、確認しづらい具体が紛れる
- 聞いていないことまで断定する：質問の範囲を超えた断定は補完のサイン
- 指摘すると即座に前言を翻す：根拠がないため、押されると簡単に変わる
最後の性質は検証に使えます。正しい回答は、指摘しても根拠を挙げて踏みとどまります。
発生を減らすプロンプト例4選
「わからない」を許可する
【プロンプト】
「次の質問に答えてください。
【質問】（ここに質問）
【回答の条件】
・確実に言えることと、推測を分けて書く
・情報が不足している場合は「わからない」と明記する
・数値を挙げるときは、調査年と出典を必ず添える
・出典が示せない情報は、その旨を注記する」
根拠を先に、結論を後に書かせる
【プロンプト】
「次のテーマについて、根拠を示しながら説明してください。
【手順】
1. 根拠となる事実を先に列挙する
2. それぞれの確からしさを高・中・低で示す
3. 最後に、根拠から言える結論だけを書く
4. 根拠が「低」のものに依存する結論は、その旨を明示する」
自分の回答を検証させる
【プロンプト】
「直前の回答を、第三者の立場で検証してください。
【条件】
・事実として確認が必要な記述をすべて抜き出す
・それぞれについて、確認方法（どこを見れば裏が取れるか）を書く
・誤っている可能性が高い箇所を、理由つきで指摘する
・自分の回答をかばわないこと」
反証させる
【プロンプト】
「次の主張に対して、反論を組み立ててください。
【主張】（ここに主張）
【条件】
・反対の立場から、根拠を3つ挙げる
・主張の弱い前提を指摘する
・どちらの立場でも一致している点を最後にまとめる」
この反証の使い方はChatGPTで議論・ディベートの練習をする方法にも通じます。質問の精度を上げるならChatGPTの深掘り質問テクニックもどうぞ。
公開前のファクトチェック手順4ステップ
ステップ1：確認が必要な記述に印をつける
数値・固有名詞・日付・法令・引用の5種類を拾います。感想や一般論は対象外にして、確認対象を絞るのがコツです。
ステップ2：一次情報に当たる
官公庁の発表、企業の公式リリース、原論文を直接開きます。まとめ記事は二次情報なので、そこで止めません。
ステップ3：出典リンクを開いて本文を探す
もっとも重要な工程です。リンクが実在しても、その記述がリンク先にないことがあります。該当箇所を目で見つけるまでは確認済みにしません。
ステップ4：確認できなかった記述は消す
惜しくても削ります。裏が取れない一文を残すために、記事全体の信頼を落とすのは割に合いません。
調査そのものをAIに任せる場合はDeep Researchの使い方で出典つきのレポートを作らせ、この4ステップで検算する流れが効率的です。
実際に起きた3つの事故パターン
パターン1：存在しない判例・条文を引用してしまう
法務や規程の文書で最も多い型です。条文番号の形式が正しいため、専門家でなければ気づけません。法令は必ず公式の法令データベースで原文に当たるのが鉄則です。契約書の下書きに使う場合の注意点はChatGPTで契約書・利用規約のドラフトを作成する方法で解説しています。
パターン2：古い情報を最新として書く
料金プラン、制度、サービス名は変化が速い領域です。AIは学習時点の情報を現在形で書くため、読者は最新だと受け取ります。変化の速いテーマでは、必ず公式サイトで現在の値を確認してください。
パターン3：数値の単位や桁を取り違える
億と兆、月額と年額、税込と税抜。文章としては自然に読めるため、見落とされます。数値を扱う資料では、単位と期間をセットで確認する習慣が有効です。データ分析での注意点はChatGPTでデータ分析する方法もあわせてどうぞ。
共通するのは「確認できたつもり」
3つとも、出力が自然だったために確認を省いた結果です。読みやすさは正しさの保証ではないという一点を、チーム内で共有しておいてください。
用途別｜どこまで確認するか
- アイデア出し・壁打ち：確認不要。正しさより発想の広がりが目的
- 社内資料の下書き：数値と固有名詞だけ確認する
- 公開記事・提案書：出典を1つずつ開く。AIでブログ記事を書く方法参照
- 法務・医療・金融に関わる内容：AIの出力を出発点にとどめ、専門家の確認を通す
社内での扱いを決めるなら生成AIの情報漏洩リスクと社内利用ルールの作り方に、確認責任の所在まで書いておくと運用が安定します。
よくある質問（FAQ）
Q. 有料版なら嘘をつきませんか？
頻度は下がりますが、なくなりません。仕組み上、生成である以上は起こりえます。プランではなく手順で防ぐと考えてください。
Q. Web検索機能があれば安全ですか？
出典が付く分は改善しますが、リンク先に書かれていない内容を要約に混ぜることがあります。出典の存在と記述の一致は別問題です。
Q. 「嘘をつかないで」と指示すれば防げますか？
効果は限定的です。それよりも「わからない場合はわからないと書く」という逃げ道を与えるほうが、実際に効きます。
Q. 同じ質問を2回して比べるのは有効ですか？
有効な簡易チェックです。回答がぶれる部分は、根拠が薄い可能性が高いと判断できます。よくある失敗はAIプロンプトでやりがちな失敗10選にまとめています。
Q. 精度を上げるプロンプトのコツはありますか？
役割・条件・出力形式を明示するのが基本です。詳しくはChatGPTの回答精度を上げるコツ7選で解説しています。
まとめ
この記事では、AIのハルシネーションを見抜く方法を解説しました。ポイントを整理します。
- AIは正しさではなくもっともらしさで言葉を選んでいる
- 断定の強さは正確さの証拠にならない
- 危険なのは書名・論文名・条文番号・統計名などの固有名詞
- 「わからないと書いてよい」と逃げ道を与えると発生が減る
- 出典は必ず開き、該当箇所を目で確認してから使う
まずは、いつも使っているプロンプトの末尾に「情報が不足している場合はわからないと明記してください」の一文を足してみてください。それだけで作り話は目に見えて減ります。
プロンプトの基本はAIプロンプトとは？初心者が最初に知るべき基礎知識、AI検索時代のコンテンツ戦略はSEOプロンプト作成ツール完全ガイドもどうぞ。その他はAIプロンプト活用ブログでご紹介しています。
コメント