AIのナレッジカットオフとは？最新情報を知らない理由

昨日のニュースについて聞いたら、堂々とデタラメが返ってきた。この経験をすると、AIは信用できないという結論に飛びつきがちです。ですが、これは嘘つきの証拠ではなく、AIの知識に期限があることを知らずに質問しただけです。

AIは「読み終えた図書館員」だと思うとよい

生成AIは学校に通いません。代わりに、ウェブサイトの記事、電子書籍、論文、公開されたコード、掲示板の会話といった膨大なテキストを読み込みます。これを学習データと呼びます。

読んだ内容を丸暗記しているわけではありません。「空は」の次には「青い」が来やすい、といった単語のつながりの確率を溜め込んでいます。AIの正体は、事実の一覧ではなくパターンの集積です。

そしてこのデータは人間が作ったものなので、当然かたよりがあります。ネット上に英語の情報が多ければ、英語圏の見方を反映した答えが返りやすくなります。AIの回答は絶対的な正解ではなく、学習データに基づいた傾向だと思ってください。

カットオフは「公開日」ではなく「収集を止めた日」

学習には、高性能なコンピュータを数か月フル稼働させる必要があり、データの整理にも膨大な時間がかかります。だから、一度学習を終えて公開したあとの出来事は取り込めません。AIにとっての世界は、学習を終えた瞬間で止まっています。これが知識のカットオフです。

ここで多くの人が誤解します。境界はモデルが公開された日ではなく、学習データの収集を止めた日です。2024年に公開されたモデルのカットオフが2023年10月、という形は普通にあります。

カットオフを超えた質問をしても、AIは「知りません」と言わずに、過去のデータからもっともらしい答えを作ってしまうことがあります。デタラメが返ってくるのはこの瞬間です。

聞き方を変えるか、こちらから情報を渡す

同じ主題でも、聞き方で精度は大きく変わります。

どうしても最新情報が要るときは二つの手があります。ひとつはブラウジング機能を使い、その場で検索させること。もうひとつは、記事本文を自分でプロンプトに貼り付けて渡すことです。渡してしまえば、AIはそれを知識として扱えます。

試してみてください

使っているAIに「最新の首相は誰ですか」と聞いてみてください。答えが古かった場合、そのAIのカットオフはいつ頃だと推測できるでしょうか。境界の位置を一度自分で測っておくと、以降は「これはAIに聞いてよい」「これは自分で調べる」の判断が速くなります。