問10 生成 AI のもっともらしい誤り

ほかの選択肢が違う理由

• アエコーチェンバーは、似た考えの人どうしで意見を交わすうちに、特定の考えが強まっていく現象です。
• イシンギュラリティは技術的特異点のことで、AI が人間の知能を超え、社会が大きく変わるとされる時点を指します。
• ウディープフェイクは、AI で本物そっくりの偽の画像や動画、音声を作る技術や、作られた物のことです。

仕組み

ハルシネーションは、生成 AI がうそをつこうとして起きるのではありません。もっともらしい言葉の並びを作る仕組みそのものから起きます。

対策としては、出典を確かめる、社内の資料など信頼できる情報を検索して答えさせる (RAG)、人が最後に確かめる、などがあります。