ハルシネーション（AIの嘘）の原因と対策

「2024 年に施行されたデジタル・リラクゼーション法について教えてください」と聞くと、AI は第 1 条の内容から、対象となる企業の規模まで、よどみなく説明してくれます。そんな法律はありません。

AI は事実の一覧を引いているのではなく、次に来る確率の高い言葉をつないで文を作っています。法律の名前が出ていれば、それらしい条文が続くのが自然な流れなので、知らない部分もそのまま埋めてしまいます。

出てきた嘘を後から見抜く話は入門コースで扱いました。ここでは、その手前で止める書き方を 3 つ扱います。

「知りません」と言う許可を出す

AI は、役に立とうとして無理に答えを作ります。何も言わなければ、答えないという選択肢は最初から無いに等しいのです。そこで、答えなくてよい道をこちらから開けておきます。

この 2 行を足しただけで、先ほどの質問への返事は「その名称の法律は確認できませんでした」に変わります。逆に「必ず 5 つ挙げてください」のように数を強く指定すると、足りない分を埋めるために作り始めます。数を指定するときは「該当するものが 5 つに満たない場合は、あるだけで構いません」を添えてください。

手元の資料の中だけで答えさせる

いちばん確実なのは、AI の記憶を使わせないことです。社内規程でも製品仕様書でも、根拠になる文章をそのまま貼り付け、その範囲の外へ出ないよう線を引きます。

「以下を参考に」と書くだけでは足りません。参考にしつつ、足りないところを自分の記憶で補ってしまうからです。資料の外に出ないこと、出られないときは何と答えるかまで書いて、初めて線になります。

資料が長すぎると、この線もぼやけます。就業規則を全文貼るより、休暇に関する条文だけを抜き出して貼るほうが、答えは正確になります。関係のない箇所を削るのは手抜きではなく、精度を上げる作業です。

根拠を先に書かせる

答えだけを求めると、AI は結論から書き始め、後から理由をつけます。順番を逆にすると、根拠が無い問いでは書き出しの時点で手が止まります。

引用が「一般にそう言われています」だけになっていたら、根拠が無い合図です。

3 つのうち最も強いのは 2 番目です。渡せる資料があるなら、まずそれを貼ってください。1 番目と 3 番目は、手元に資料が無い調べもののように、AI の記憶に頼らざるを得ないときの保険にあたります。

そして、この 3 つを重ねても嘘がゼロになるわけではありません。固有名詞と数字と日付だけは、送信の前に自分の目で確かめてください。