AIへの指示の出し方：プロンプト入門

ハルシネーション（AIの嘘）の原因と対策

生田 陸人
監修
LuaGate エンジニア / 現役エンジニア
編集 LuaGate編集部

このレッスンで分かること

  • この記事では「ハルシネーション（AIの嘘）の原因と対策」を プロンプト設計 の現場で使える形で整理します
  • AIがもっともらしい嘘をつく理由とは？ をおさえれば、現場で迷ったときに立ち戻れる
  • ハルシネーションが発生する主な原因 をおさえれば、現場で迷ったときに立ち戻れる
  • 1. 確率に基づいた次に来る言葉の予測 をおさえれば、現場で迷ったときに立ち戻れる
  • 2. 学習データの不足や情報の鮮度 をおさえれば、現場で迷ったときに立ち戻れる

ハルシネーション（AIの嘘）の原因と対策 とは

生成AIがもっともらしい嘘をつく「ハルシネーション」の原因と、それを防ぐための実践的なプロンプト手法を学びます。正確な情報を引き出すための指示のコツや、回答の検証方法を分かりやすく解説します。

AIが「もっともらしい嘘」をつく理由とは？

ChatGPTやClaudeなどの生成AIを利用していて、AIが自信満々にデタラメな情報を回答してきた経験はありませんか？この現象は、あたかもAIが幻覚を見ているかのように振る舞うことから、専門用語でハルシネーション（Hallucination：幻覚）と呼ばれます。

AIをビジネスや学習で活用する際、このハルシネーションを完全にゼロにすることは現在の技術では困難です。しかし、「なぜ嘘をつくのか」という原因を知り、適切なプロンプト（指示文）を構成することで、その発生率を劇的に下げることは可能です。本レッスンでは、ハルシネーション対策のメカニズムと、今日から使える実践的な対策を詳しく解説します。

ハルシネーション — AIが事実と異なる内容を、あたかも本当のことのように流暢に語る現象。悪意ではなく「次に来る確率が高い単語」を選ぶ仕組みの副作用として発生する。

ハルシネーションが発生する主な原因

AIが嘘をつくのは、人間に悪意があるわけでも、AIが意図的に騙そうとしているわけでもありません。その原因は、大規模言語モデル（LLM）の仕組みそのものにあります。

diagram (will load when visible)

1. 確率に基づいた「次に来る言葉」の予測

生成AIは、膨大なテキストデータを学習し、「ある言葉の次に来る確率が最も高い言葉」をつなげて文章を作っています。 例えば、「吾輩は猫である。名前は……」という文章に対して、AIは学習データから統計的に「まだ無い」という言葉が続く確率が高いと判断します。

この仕組みは自然な文章を作るのには適していますが、「事実かどうか」を判断しているわけではないという点に注意が必要です。AIにとって、真実を語ることよりも「もっともらしい、流暢な文章を作ること」が優先されてしまう場合があるのです。

2. 学習データの不足や情報の鮮度

AIは学習に使用されたデータに含まれていない情報については答えられません。特に、「ごく最近のニュース」「専門的すぎる知識」「個人のプライベートな情報」などについては、データが不足しているため、無理に回答を作ろうとしてハルシネーションが起きやすくなります。

3. プロンプトの曖昧さ

指示が不明確な場合、AIはユーザーの意図を推測して補完しようとします。この「推測」が行き過ぎると、現実には存在しない設定や事実を作り上げてしまう原因となります。

ハルシネーションを防ぐ5つの実践的対策

AIの回答精度を高め、ハルシネーションを抑制するためのプロンプトテクニックを紹介します。

グラウンディング — AIに「外部の根拠資料」を渡し、その範囲内でだけ答えさせる手法。社内ドキュメントや論文を貼り付けて参照させると、捏造率が大幅に下がる。

対策1：「分からない場合は、分からないと答えて」と指示する

最もシンプルで強力な対策は、AIに「逃げ道」を作ってあげることです。AIはデフォルトでは「ユーザーの役に立とう」として無理に回答を作る傾向があります。これを明示的に禁止します。

対策2：根拠となる情報をプロンプトに含める（Grounding）

AIに外部の知識（資料のテキストやWebサイトの内容）を貼り付け、「以下の文章に基づいて回答してください」と指示する方法です。これをグラウンディング（根拠付け）と呼びます。AI自身の記憶ではなく、目の前の情報から回答させることで、嘘を大幅に減らせます。

対策3：ステップ・バイ・ステップで考えさせる

複雑な質問に対して、一気に答えを出そうとするとAIは混乱します。「順を追って論理的に考えてください」と一言加えるだけで、推論のプロセスが整理され、矛盾した回答を防ぐことができます。

対策4：役割（ロール）を明確に定義する

「あなたは正確な情報を提供する専門のファクトチェッカーです」のように役割を与えることで、回答のトーンを慎重にし、不確かな情報を排除する傾向を強めることができます。

良い例と悪い例の比較

実在しない架空の法律について質問した場合の、プロンプトの差を見てみましょう。

避けたい例 ユーザーの指示: 「2024年に施行された『デジタル・リラクゼーション法』の内容を詳しく教えてください。」

AIの予想される回答: 「はい、デジタル・リラクゼーション法は、テレワークによる精神的疲労を軽減するために施行されました。第1条では、企業は従業員に1日30分のデジタルデトックスを……（※実際には存在しない法律を捏造する）」

良い例 ユーザーの指示: 「あなたは法律の専門家です。以下のルールを厳守して回答してください。

  1. 2024年に施行された『デジタル・リラクゼーション法』について説明してください。
  2. もしその法律が実在しない、あるいは情報が不確かな場合は、知ったかぶりをせず『その法律は存在しません』とはっきり答えてください。
  3. 検索可能な公的ソースがある場合のみ、回答に含めてください。」

AIの予想される回答: 「申し訳ありませんが、私の学習データおよび現在の最新情報に基づくと、『デジタル・リラクゼーション法』という法律は確認できませんでした。実在しない名称である可能性が高いです。」

このように、「知らないことを認める許可」を与えることが、信頼性の高いAI活用への第一歩です。

回答品質を評価するためのチェックリスト

AIからの回答を受け取った際、それがハルシネーションでないかを確認する習慣をつけましょう。以下の「3つのV」の視点が役立ちます。

diagram (will load when visible)
  • Verify（検証）は固有名詞や数字、日付は、必ずGoogle検索などの信頼できる情報源で裏付けを取りましたか？
  • Variation（バリエーション）は別のチャットセッションや別のAIモデル（ClaudeからGPT-4oなど）で同じ質問をして、回答が食い違わないか確認しましたか？
  • Viewpoint（観点）はAIに「この回答に誤りや矛盾が含まれている可能性はありませんか？」と自己批判（セルフクリティーク）をさせてみましたか？

やってみよう 練習問題：ハルシネーションを誘発して、それを防いでみよう！

  1. AIに対して、あなたの地元にある「実在しない、でもありそうな名前の観光スポット」について詳しく聞くプロンプトを送ってみてください（例：〇〇市にある伝説の青い滝について教えて）。
  2. AIが嘘をついたら、次は「知らない場合は正直に答えて」「根拠が不明な場合はその旨を明記して」という制約を加えて同じ質問をしてみましょう。
  3. 回答がどう変化したか観察してください。

まとめ

ハルシネーションはAIの仕組み上避けられない現象ですが、「逃げ道を作る指示」「根拠情報の提示」「ステップ・バイ・ステップの推論」といったプロンプトの工夫でコントロール可能です。AIの回答を鵜呑みにせず、常にクリティカルな視点を持って接することが、AIを強力なパートナーにするための鍵となります。

AIの嘘を「欠陥」と捉えるのではなく、「扱い方次第で防げる特性」だと理解することが上達への近道です。適切な指示をマスターして、AIを賢く使いこなしていきましょう！

現場でよくある具体例

  1. 業務ケース 1 — 商品説明文の生成。「役割・読者・トーン・制約・出力例」の 5 ブロックを徹底したら、編集工数が 3 分の 1 に
  2. 業務ケース 2 — 議事録要約で「アクションアイテムは担当者と期限を明記」と一文足したらタスク漏れが激減
  3. 業務ケース 3 — 顧客対応の Chain-of-Thought 設定で「まず分類、次に回答候補、最後に確認質問」と段階指示にし、誤回答が 4 割減

次にとるべきアクション

  1. 自分の現業務プロンプトを 1 つ取り出す — 「ハルシネーション（AIの嘘）の原因と対策」の観点で 3 箇所書き換え、変更前後を比較する
  2. プロンプトをテンプレ化する — 役割・入力・出力フォーマット・制約の 4 ブロックで定型化する
  3. 評価セットを 5 件作る — 自分のユースケースで「期待出力」を 5 件用意し、プロンプト改善のたびに回帰確認する

次のレッスン

次は 第4章まとめクイズ で、第4章まとめクイズ を学びます。

事前確認 — 進む前に次の 3 つができることを確認しましょう。

  1. ハルシネーション対策 の要点を自分の言葉で説明できる
  2. このレッスンの最小コード (または操作手順) を見ずに書ける
  3. 練習問題やクイズで間違えた箇所を読み直して理解した

理解度チェック (30 秒)

Q. ハルシネーション対策 とは何か、1 文で説明してください。

この章のポイント

A. 本文の「このレッスンで分かること」または冒頭の説明文を見直し、自分の言葉で要約できれば OK。詰まったら本レッスンの最初の H2 セクションを読み返してみましょう。

関連レッスン

参考にした出典

学習を加速したい方へ

プロンプトエンジニアリング実践ガイドを体系的にマスターするなら、chotdekiru の無料学習ポータル で実際に手を動かして学習を始めるのがおすすめです。質問・つまずきも現役エンジニアが伴走します。

復習ミニクイズ

あなたは、実在するかどうかが不明な最新の用語についてAIに質問しようとしています。ハルシネーション（AIの嘘）を最小限に抑えるための指示として、最も適切なものはどれですか？

参考リンク