ゆめさくエンジニア研究所女性向けエンジニアスクール女性向けエンジニアスクール
ログイン

問5 AI へのモデルインバージョン攻撃

情報処理​安全確保​支援士 令和7年度 秋期 午前II、全25問のうちの問5。

出典：令和7年度 秋期 情報処理安全確保支援士試験 午前II 問5

AI に対するモデルインバージョン攻撃に該当するものはどれか。

  1. アAI モデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し，学習に用いた元のデータを推測する。
  2. イAI モデルに対して複数のデータを入力して得られた出力結果を観察することによって，当該 AI モデルを模倣し，同等の性能をもつ AI モデルを得る。
  3. ウ学習時のデータセットに悪意あるデータを混入し，誤った学習をさせる。
  4. エ何らかの方法で AI の実行ファイルを入手し，逆アセンブルや逆コンパイルによって AI のソースコードを得る。
答えと解説を開く

正解はアです。

インバージョンは「逆にたどる」という意味です。入力を少しずつ変えながら AI の出力 (確からしさの値など) を集め、学習に使われた顔写真や個人の属性のような元のデータを推測します。アがこれに当たります。

ほかの選択肢が違う理由

  • イ出力を観察して同じ働きのモデルを作るのは、モデル抽出攻撃 (模倣攻撃) です。盗まれるのはモデルそのものです。
  • ウ学習用のデータに悪いデータを混ぜて判断を狂わせるのは、データポイズニング攻撃です。
  • エ実行ファイルを逆アセンブルしてソースコードを得るのは、ふつうのソフトウェアのリバースエンジニアリングで、AI のモデルの性質を突く攻撃ではありません。

仕組み

AI のモデルは、学習したデータの特徴を中に抱えています。答えと一緒に細かい確からしさの値まで返すと、その値の変わり方から、学習に使った個人のデータの姿が漏れることがあります。

守りとしては、返す値を丸める、問い合わせの回数を絞る、学習のときに個人が特定されにくくする手法を入れる、といった方法があります。

この問に出る言葉