生成AIの回答を「鵜呑みにしない」ためのファクトチェック術

自信のある文章ほど、確かめていない

生成 AI の回答には、迷いがありません。人名も、法律の名前も、統計の数字も、同じ落ち着いた口調で並びます。読んでいる側は「ここは自信がなさそうだ」という手がかりを一切もらえません。

これは仕組みから来ています。生成 AI は事実を検索してから答えているのではなく、次に来る確率が高い言葉をつないで文章を作っています。真偽の判定をしていないので、正解を知らない話題でも、知っているときと同じ調子で書き切ってしまいます。この現象をハルシネーションと呼びます。

だから「怪しい言い回しを探す」という読み方は通用しません。文体ではなく、中身の種類で疑う場所を決めます。

疑う場所を先に決める

回答をひととおり読んだら、次の 3 種類に印を付けます。この 3 つはハルシネーションが集中する場所です。

• 固有名詞（人名、社名、商品名、書名、法律名）
• 数字（統計値、金額、割合、条文の番号）
• 日付（施行日、発売日、出来事の年月）

印が 1 つも付かない回答は、そのまま使ってもだいたい問題ありません。印が付いた回答だけを、次の手順にかけます。

確かめ方を 3 つ持っておく

手順 1、固有名詞と数字をそのまま検索する。 回答から固有名詞を 1 つ抜き出し、検索エンジンにそのまま貼ります。存在すれば公式ページや報道が上位に並びます。何も出てこない、あるいは全く関係のないものしか出てこないなら、その時点で作り話を疑います。数字は「用語 + 統計」のように、出どころを探す語を足して検索します。

手順 2、出典を聞き返し、そのリンクを開く。 「その情報の出典を教えてください」と続けて聞きます。ここで返ってきた URL や書名も、AI が作った可能性があります。必ずクリックして、ページが開くか、開いたページに本当にその記述があるかまで見ます。開かない URL が出てきたら、その回答全体を疑ってよい合図です。

手順 3、一次情報にあたる。 法律や制度なら e-Gov などの公的なサイト、企業の発表ならその会社のプレスリリース、統計なら発表元の公式ページを見ます。解説記事や AI の要約は、どれだけ丁寧でも二次情報です。日付と数字は、必ず元の発表で読み合わせます。

3 つとも同じくらい重い作業に見えますが、実際にはほとんどが手順 1 で片付きます。検索して素直に見つかるなら、そこで終わりにしてかまいません。引っかかったものだけを手順 2 と手順 3 に送る、という順番で使ってください。急ぎのときは、別の AI に同じ質問をして答えを突き合わせるだけでも、食い違いから怪しい箇所が浮かび上がります。

たとえば AI が「この法律は 2024 年 4 月に施行され、個人の利用が制限されるようになりました」と答えたとします。法律の名前が実在していても、施行の時期や中身だけが入れ替わっているのは、よくある形です。名前が実在したことに安心せず、公的なサイトで施行日と条文を開くところまでやって、はじめて確認したことになります。

最初から間違えにくい頼み方をする

チェックの手間は、頼み方でも減らせます。

AI は無理にでも答えを作ろうとするので、あらかじめ逃げ道を作っておくと、作り話が目に見えて減ります。複雑な話では「順を追って考えてから答えてください」と添えるのも有効です。途中の筋道が文章に出てくるぶん、こちらが矛盾を見つけやすくなります。

もう一段強いのが、資料のほうを先に渡してしまう方法です。手元の PDF やページの本文を貼り、「この文章の範囲だけで答えてください」と指示すると、AI が知識から補う余地が狭まります。社内の規程や製品仕様のように、正解がこちらの手元にある話題では、この頼み方が確認の手間をいちばん減らします。

AI の回答は下書き、検索と一次情報は校閲。この役割分担ができていれば、AI が間違えること自体は困りごとではなくなります。