問1 ファインチューニングの説明

基本情報​技術者試験 令和7年度 公開問題 科目A、全20問のうちの問1。

出典:令和7年度 基本情報技術者試験 公開問題 科目A 問1

大規模言語モデルを用いた自然言語処理において,事前学習済みのモデルに対して行う,ファインチューニングに関する記述として,最も適切なものはどれか。

  1. ア強化学習を行い,最適な結果が得られるようにする。
  2. イ事前学習と同じデータを繰り返し用いて学習を行い,モデルの精度を高めるようにする。
  3. ウ大量のテキストデータを用いて学習を行い,モデルの精度を高めるようにする。
  4. エ特定のデータを用いて追加で学習を行い,目的とするタスクに適用できるようにする。
答えと解説を開く

正解はエです。

大規模言語モデルは、まず大量の文章で言葉の一般的な使われ方を学びます。これが事前学習です。そのままでは、ある会社の問合せ対応や医療の文書の要約のような、特定の仕事に向いているとは限りません。そこで、その仕事に合ったデータを用意し、学習済みのモデルにもう一度少しだけ学習させます。これがファインチューニングです。ゼロから作り直さずに済むので、少ないデータと計算で目的に合わせられます。エはこの説明そのままです。正解はエです。

ほかの選択肢が違う理由

  • ア強化学習は、行動の結果に報酬を与えて良い行動を学ばせる学習の方式です。ファインチューニングで使われることもありますが、ファインチューニングそのものの説明ではありません。
  • イ事前学習と同じデータを繰り返しても、新しい仕事に合わせることにはなりません。ファインチューニングでは、目的の仕事に合った別のデータを使います。
  • ウ大量のテキストデータで学習して土台の力を付けるのは、事前学習の説明です。

仕組み

事前学習は「言葉の一般常識を身につける段階」、ファインチューニングは「特定の仕事の作法を覚える段階」と分けて覚えると混ざりません。

似た言葉に、モデルの重みを変えずに、指示の文や参考の資料を入力に足して出力を変える方法 (プロンプトの工夫や RAG) があります。ファインチューニングはモデルそのものを追加で学習させる点が違います。

この問に出る言葉