G検定 法律と倫理 問題

正解は指紋や顔の特徴を電子計算機用に変換した、本人を識別できる符号です。個人識別符号は、身体の特徴を変換した符号や、個人に割り当てられる番号のうち政令で定めるもので、それを含むだけで個人情報になります。店が独自に振った会員番号は政令で定める符号ではなく、他の情報と容易に照合できる場合に個人情報になり得るにとどまります。年代別に集計した人数は特定の個人を識別できません。製品の型番と製造ロットの番号は個人に関する情報ではありません。出典は個人情報保護法第2条と同法施行令第1条です。

• 個人情報の保護に関する法律 (e-Gov 法令検索)
• 個人情報の保護に関する法律施行令 (e-Gov 法令検索)

正解は要配慮個人情報に当たり、あらかじめ本人の同意を得て取得することです。病歴は人種、信条、犯罪の経歴などと並ぶ要配慮個人情報で、法令に基づく場合などの例外を除き、本人の同意なく取得してはなりません。利用目的の公表で足りるとする説明は通常の個人情報の取得の考え方で、要配慮個人情報には当てはまりません。病歴は身体の特徴を変換した符号ではないため個人識別符号ではなく、仮名加工で同意が不要になることもありません。本人が入力したかどうかで個人情報かどうかは変わりません。出典は個人情報保護法第2条第3項と第2⁠0条第2項です。

• 個人情報の保護に関する法律 (e-Gov 法令検索)

正解は仮名加工情報は他の情報と照合しない限り個人を識別できない情報で、原則として第三者に提供できないことです。仮名加工情報は、法令に基づく場合などを除き第三者への提供が禁じられています。元の個人情報に復元できないように加工するのは匿名加工情報の要件で、仮名加工情報の説明ではありません。照合すれば識別できるのは仮名加工情報の性質で、匿名加工情報は個人を識別できず復元もできないように加工したもので、項目の公表などをすれば第三者に提供できます。匿名加工情報は委員会規則の基準に従って加工し、含まれる項目を公表する義務があります。出典は個人情報保護法第2条、第4⁠1条、第4⁠2条、第4⁠3条です。

• 個人情報の保護に関する法律 (e-Gov 法令検索)

正解は創作的寄与の有無で個別に判断されることです。著作物は思想又は感情を創作的に表現したものと定義され、AI生成物も人の創作的寄与があるかで個別に判断されます。指示が表現に至らないアイデアにとどまる場合は著作物性が認められないと整理されています。試行回数の多さそれ自体は創作的寄与の判断に影響しないとされています。人が創作的表現といえる加筆や修正をした部分は著作物になり得るため、一律に否定する説明は誤りです。AIは法的な人格を持たないため著作者にはなれません。出典は著作権法第2条と文化庁「AIと著作権に関する考え方について」です。

• 著作権法 (e-Gov 法令検索)
• 文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」(文化庁)

正解はプログラム言語や、指令の組み合わせ方である解法です。著作権法はプログラムを著作物として保護しますが、その保護はプログラム言語、規約、解法には及ばないと定めています。アルゴリズムの考え方そのものを独占したいときは、著作権ではなく特許などの制度が問題になります。ソースコードをそのまま写した表現は、保護されるプログラムの表現そのものです。変数名だけを変えて写した場合も、創作的な表現が残るため保護の対象になり得ます。技術解説の文章も言語の著作物として保護されます。出典は著作権法第1⁠0条第3項です。

• 著作権法 (e-Gov 法令検索)

正解は享受の目的が併存すると評価され、第3⁠0条の4は適用されないことです。第3⁠0条の4は、著作物に表現された思想又は感情を享受することを目的としない利用を認める規定で、目的の中にひとつでも享受の目的があれば要件を欠きます。文化庁は、学習データの創作的表現を意図的に出力させるための追加学習を、享受目的が併存する例に挙げています。情報解析の形なら必ず適用されるとする説明は、この併存の考え方を見落としています。追加学習でも学習データの複製は行われます。公開されていることは、許諾なく複製できる理由になりません。出典は著作権法第3⁠0条の4と文化庁「AIと著作権に関する考え方について」です。

• 著作権法 (e-Gov 法令検索)
• 文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」(文化庁)

正解はその分野の通常の知識を持つ人が容易に発明できたものは特許を受けられないことです。これが進歩性の要件で、既存の技術から簡単に思いつく発明に独占の権利を与えないための決まりです。公然と知られた発明と同じものを除く決まりは新規性の要件です。自然法則を利用した技術的思想の創作のうち高度のものという説明は、発明そのものの定義です。産業上利用できない発明を除く決まりは産業上の利用可能性の要件で、いずれも進歩性とは別の考え方です。出典は特許法第2条第1項と第2⁠9条です。

• 特許法 (e-Gov 法令検索)

正解はあらかじめ定めていれば、特許を受ける権利は発生した時から会社に帰属することです。職務発明は、会社の業務範囲に属し、従業者の職務に属する発明で、契約や勤務規則などで定めておけば権利は発生した時から会社に帰属します。常に研究者だけに帰属するとする説明は、この定めの効果を無視しています。会社に権利を取得させた従業者は、相当の金銭その他の経済上の利益を受ける権利を持ちます。職務発明でない発明について、あらかじめ会社に権利を取得させる定めは無効とされています。出典は特許法第3⁠5条です。

• 特許法 (e-Gov 法令検索)

正解は秘密として管理されていること、事業活動に有用であること、公然と知られていないことです。この3つは秘密管理性、有用性、非公知性と呼ばれ、営業秘密は登録なしで保護されます。特許庁への登録を要件とする説明は特許権の仕組みと混ざっており、営業秘密に登録の手続きはありません。新規性と進歩性は特許の要件です。特定の者に提供するため電磁的方法で相当量蓄積され管理されている情報は限定提供データの説明で、営業秘密に当たるものは限定提供データから除かれます。出典は不正競争防止法第2条第6項と第7項です。

• 不正競争防止法 (e-Gov 法令検索)

正解は共同して対価を決定し、競争を実質的に制限するなら、不当な取引制限に当たり得ることです。独占禁止法は、契約、協定その他どのような名義かを問わず、他の事業者と共同して対価を決定し、維持し、引き上げることで、一定の取引分野の競争を実質的に制限することを禁じています。アルゴリズムは合意を実行する道具で、事業者の行為であることは変わりません。名義を問わないため、書面の契約がなくても合意があれば対象になります。価格の維持も条文に含まれるため、引き上げに限るとする説明は誤りです。出典は独占禁止法第2条第6項と第3条です。

• 私的独占の禁止及び公正取引の確保に関する法律 (e-Gov 法令検索)

正解は希望する精度の学習済みモデルを生成できるかを検証することです。ガイドラインは開発をアセスメント、PoC、開発、追加学習の4段階に分け、PoC段階では学習用データセットで目標の精度に届くかを確かめ、成果物をレポートや試作の学習済みモデルとしています。生成できる可能性を最初に見極めるのはアセスメント段階です。納品したモデルに追加のデータで学習させるのは追加学習段階です。仕様を確定させて完成品を検収、納品する形は、仕様を決めにくい学習済みモデルの開発にはなじみにくいとされています。出典は経済産業省「AI・データの利用に関する契約ガイドライン (AI編)」です。

• 経済産業省「AI・データの利用に関する契約ガイドライン (AI編)」

正解は仕様や検収基準を確定しにくく、未知の入力に対する挙動も保証しにくいためです。学習済みモデルは事前に性能を予測しにくいため、仕事の完成を約束する請負型にはなじみにくく、検証や開発という役務の提供を目的とする準委任型が親和的とされています。準委任型は仕事の完成を義務とする契約ではなく役務の提供を目的とする契約で、ベンダが完成と性能を必ず保証するという説明は逆です。請負型でもユーザがデータを提供することは妨げられません。知的財産権の帰属は契約の類型で自動的に決まるものではなく、当事者の交渉で定めます。出典は経済産業省「AI・データの利用に関する契約ガイドライン (AI編)」です。

• 経済産業省「AI・データの利用に関する契約ガイドライン (AI編)」

正解は入力したデータが汎用的なAIの学習に使われるかどうかです。経済産業省の契約チェックリストは、入力がサービス改善などの名目で第三者も使うAIの学習に回る場合、一度モデルに取り込まれた情報は取り除きにくいとして、利用範囲の確認と不要な情報を入れないことを求めています。重みを引き渡して自社で動かす形は、提供者の環境で使うSaaSの性質と合いません。一から学習させたモデルの納品は開発を伴う契約で検討する事項です。同じ条件で多数に提供するSaaSは定型の利用規約で契約が成り立つことが多く、一から個別に交渉する前提ではありません。出典は経済産業省「AIの利用・開発に関する契約チェックリスト」です。

• 経済産業省「AIの利用・開発に関する契約チェックリスト」

正解は関係者の自主的な取組を促す、非拘束的なソフトローです。このガイドラインは、法整備が技術の進展に遅れるタイムラグや、細かな行為義務を定める規制がイノベーションを妨げるおそれを踏まえ、ゴールベースの考え方で作られています。罰則を伴うハードローは拘束力が強い一方、変化への追随が遅れやすいとされ、このガイドラインの性格とは異なります。国会の議決を経た法律でもありません。総務省と経済産業省が取りまとめた文書で、業界団体の内部規範でもありません。出典は総務省・経済産業省「AI事業者ガイドライン (第1.2版)」です。

• 総務省・経済産業省「AI事業者ガイドライン (第1.2版) 本編」

正解は本人が明かしていない健康状態などを、購買履歴からAIが推定してしまうことです。推論の段階では、集めた時点では問題が小さく見えるデータからでも、AIが本人の明かしていない機微な属性を推定し、それに基づいて扱いを変えることでプライバシーを侵害するおそれがあります。同意なく位置情報を集めることと、知らせずにカメラで撮ることは、どちらもデータを取る時点の問題で、収集の段階に当たります。名簿を暗号化せずに保管することは、集めたデータの安全管理の問題です。

正解は期間が長く、店舗の範囲が広いほど、影響は高まることです。ガイドブックは、特徴量データをデータベース化して一定期間保有し、行動履歴や推定した属性を紐づける分析では、取得の期間が長く空間が広いほど、生活者の行動を継続的、網羅的に把握し得るとしています。画像を破棄しても、特徴量データを保持して紐づける限り影響は残ります。顔の目や鼻の位置関係などを数値化した特徴量データは、個人識別符号として特定の個人を識別し得るものとされています。撮影中の通知は配慮の一つで、取得範囲の広さに応じた配慮を不要にはしません。出典は「カメラ画像利活用ガイドブック ver3.0」です。

• 総務省・経済産業省「カメラ画像利活用ガイドブック ver3.0」

正解は性別と強く相関する別の項目が代理変数として働き、同じ偏りを再現するためです。センシティブ属性を入力から外しても、職歴の種類や趣味など、その属性と相関する項目が残っていれば、モデルはそれを手がかりに過去のデータにある偏りを学びます。項目を取り除いても学習データの件数は減りません。特徴量を減らすことは過学習の原因ではなく、むしろ抑える方向に働くこともあります。取り除いた項目を推論のときに自動で復元する一般的な仕組みはありません。

正解は学習データにその属性の人の画像が少なく、データに偏りがあるためです。サンプリングバイアスなどでデータが特定の属性に偏ると、少数の属性での誤りが全体の精度に埋もれたまま残ります。対策として、属性ごとに精度を分けて評価し、データを補うことが挙げられます。エポック数の多さは属性によらない学習の問題で、特定の属性だけ誤りが増える説明になりません。肌の色の違いは画素の値に表れます。推論する端末の処理速度が写っている人の属性で変わることはありません。

正解は小さな摂動を意図的に加え、モデルに高い確信度で誤った出力をさせる入力です。画像に人の目ではほとんど区別できない雑音を加えるだけで、分類モデルが自信を持って誤ったクラスを出すことがあり、安全性を損なう攻撃に使われ得ます。誤ったラベルのデータを混ぜて判断を歪めるのはデータ汚染で、学習の段階を狙う攻撃です。生成器と識別器を競わせるのはGANの説明です。ニューロンを無作為に無効にするのはドロップアウトという正則化の手法です。出典は Goodfellow らの論文「Explaining and Harnessing Adversarial Examples」です。

• Goodfellow et al., Explaining and Harnessing Adversarial Examples (arXiv)

正解はモデル窃取です。モデル窃取は、内部のパラメータや学習データを知らない攻撃者が、問い合わせと応答の組を集めて元のモデルの機能を複製する攻撃で、出力に確信度まで細かく含めると手がかりが増えます。対策として、問い合わせの回数の制限や、返す情報を必要な分に絞ることが挙げられます。データ汚染は学習データに不正なデータを混ぜる攻撃です。モデル汚染は学習済みモデルそのものに細工を仕込む攻撃です。データ窃取は学習データや入力データそのものを盗み出すことを狙う攻撃で、モデルの機能を複製するものではありません。出典は Tramèr らの論文「Stealing Machine Learning Models via Prediction APIs」です。

• Tramèr et al., Stealing Machine Learning Models via Prediction APIs (arXiv)

正解は導入者が人工的に生成・改変されたことを開示することです。AI法は、ディープフェイクに当たる画像、音声、動画を生成または改変するAIシステムの導入者にその旨の開示を求め、合成コンテンツを生成するAIの提供者には出力を機械で読める形で印付けすることも求めています。生成できるAIを一律に禁止する規定ではなく、透明性の義務で対応しています。明らかな芸術作品などでも、鑑賞を妨げない適切な形で生成物があることを示す義務は残ります。法律で認められた犯罪の捜査などのための利用は、開示の義務から除かれています。出典は EU AI法第5⁠0条です。

• Regulation (EU) 2024/1689 (Artificial Intelligence Act), EUR-Lex

正解はシャープレイ値に基づき、個々の予測への各特徴量の寄与を割り当てることです。SHAP は、ある予測について特徴量ごとの重要度を加法的に割り当てる枠組みで、協力ゲーム理論で貢献を公平に分ける考え方を使います。入力の近くで単純なモデルを学習して局所的に近似するのは LIME の考え方です。勾配から判断に効いた画像の領域をヒートマップで示すのは Grad-⁠CAM などの手法です。決定木を一つ作って元のモデルを写し取るのは大域的な代理モデルの考え方で、SHAP とは別物です。出典は Lundberg と Lee の論文「A Unified Approach to Interpreting Model Predictions」です。

• Lundberg and Lee, A Unified Approach to Interpreting Model Predictions (arXiv)
• Ribeiro et al., Why Should I Trust You? Explaining the Predictions of Any Classifier (arXiv)

正解はデータの出所や意思決定などを、合理的な範囲で追跡・遡求できるようにすることです。ガイドラインはアカウンタビリティを果たすための項目として、データの出所や、AIシステム・サービスの開発、提供、利用中に行われた意思決定などを、技術的に可能で合理的な範囲で追跡・遡求できる状態の確保を挙げています。目的は問題が起きたときに原因をたどれることで、学習データを全て削除して作り直すことではありません。パラメータの数の公表はトレーサビリティの中身ではありません。記録を残さない運用は、追跡できる状態と正反対です。出典は総務省・経済産業省「AI事業者ガイドライン (第1.2版)」です。

• 総務省・経済産業省「AI事業者ガイドライン (第1.2版) 本編」

正解は推薦の仕組みが好みに合う情報ばかりを選んで示し、異なる意見に触れにくくなる状態です。検索や推薦のアルゴリズムが過去の行動から好みを推定して情報を選ぶため、利用者は泡に包まれたように自分の見方に合う情報に囲まれます。似た考えの人どうしのやり取りで意見が強まる現象はエコーチェンバーです。報道を装って事実と異なる内容を広めるのはフェイクニュースです。偽アカウントで支持を多く見せる手口は世論操作の一種です。いずれも民主的な議論を歪めるおそれがありますが、フィルターバブルとは別の概念です。

正解は学習の費用と炭素排出を見積もり、減らす工夫が求められることです。大きなモデルの学習は大量の計算資源とそれに見合う電力を必要とし、費用と炭素排出の両面で負担が大きいことが研究で見積もられ、負担を減らすための提言も示されています。学習の電力が常に無視できるという説明は誤りで、学習も推論も環境負荷の議論の対象です。電力の問題は冷却だけでなく計算そのものに関わります。精度を上げるほど計算量が必ず減るわけではなく、精度のために計算量を増やす傾向がむしろ問題にされています。出典は Strubell らの論文「Energy and Policy Considerations for Deep Learning in NLP」です。

• Strubell et al., Energy and Policy Considerations for Deep Learning in NLP (arXiv)

正解は人が自ら判断や作業をする機会が減り、要る技能が衰えることです。AIとの協働では作業の多くを任せられる一方、人が自分で考えて手を動かす機会が減ると、AIが止まったときや出力の誤りを見抜く場面で対応できなくなるおそれがあります。そのため、人が技能を保つ訓練や役割の設計が論点になります。業務が増えて学ぶ時間が取れないことは負荷の問題で、技能の喪失とは別です。学習済みの重みは時間がたっても自然には消えません。運用で性能が落ちるのはデータの変化によるもので、人の技能が衰える話とは別です。人材の流出は技能が失われるのではなく、外へ移る問題です。

正解は環境・リスク分析、ゴール設定、設計、運用、評価の循環を、多様な関係者と継続的かつ高速に回すことです。社会の変化が速くゴールも変わり続けるため、ガイドラインは事前にルールや手続きを固定したガバナンスではなく、この循環をマルチステークホルダーで回して見直し続けることを求めています。ルールを固定して変えない説明は、ガイドラインが避けるとする形そのものです。開発部門だけで評価し外部を関与させない説明は、マルチステークホルダーの関与という考え方に反します。短い周期で機能を追加するのはアジャイル型のソフトウェア開発の説明で、ガバナンスの考え方とは別物です。出典は総務省・経済産業省「AI事業者ガイドライン (第1.2版)」です。

• 総務省・経済産業省「AI事業者ガイドライン (第1.2版) 本編」

正解は自動化バイアスに注意し、承認する理由を自分で考えてから判断することです。自動化バイアスは、自動化されたシステムへの過度な信頼や依存が生じる現象で、AI事業者ガイドラインは、人の判断を介在させる際にこれに左右されない対策を求め、AIの特性を理解する訓練や、承認の理由を独自に考えることを例に挙げています。確信度が高いほど確認を省くやり方は、まさに鵜呑みを招きます。常にAIを優先する決まりでは、人が関与する意味がなくなります。一人に固定して全件を承認させる体制は、偏りや見落としを確かめる仕組みを欠きます。出典は総務省・経済産業省「AI事業者ガイドライン (第1.2版)」です。

• 総務省・経済産業省「AI事業者ガイドライン (第1.2版) 本編」