問2 AI をだます画像

情報処理安全確保支援士令和6年度秋期午前II、全25問のうちの問2。

AI による画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって，AI アルゴリズムの特性を悪用し，誤認識させる攻撃はどれか。

答えと解説を開く

正解はイです。

Adversarial Examples (敵対的サンプル) 攻撃は、人には分からないほど小さなノイズを入力に加えて、AI に誤った判断をさせる攻撃です。例えば、パンダの画像に細工をすると、人の目には同じパンダに見えるのに、AI は別の動物だと答えてしまいます。正解はイです。

ほかの選択肢が違う理由

アAdaptively Chosen Message 攻撃 (適応的選択メッセージ攻撃) は、攻撃者が選んだメッセージに次々と署名させ、その結果を見ながらデジタル署名の偽造を試みる攻撃です。
ウDistributed Reflection Denial of Service 攻撃 (DRDoS) は、送信元を偽った問い合わせを多くのサーバに送り、その応答を標的に集めるサービス妨害です。
エModel Inversion 攻撃は、AI の出力を手がかりに、学習に使われたデータを推測する攻撃です。誤認識させる攻撃ではありません。

AI は、人とは違う手がかり、例えば細かな画素の模様をもとに判断しています。だから、人には見えないわずかな変化でも、AI の判断の境目を越えさせることができます。

道路標識に小さなシールを貼って、自動運転の認識を誤らせる実験も報告されています。対策としては、敵対的サンプルを混ぜて学習させる (敵対的学習) 方法などがあります。