はじめての生成AI

生成AIと「情報漏洩」：入力してはいけない情報とは

生田 陸人
監修
LuaGate エンジニア / 現役エンジニア
編集 LuaGate編集部

このレッスンで分かること

  • この記事では「生成AIと「情報漏洩」：入力してはいけない情報とは」を 生成 AI 基礎 の現場で使える形で整理します
  • 生成AIで情報漏洩が起きる仕組みとリスク をおさえれば、現場で迷ったときに立ち戻れる
  • 生成AIに入力してはいけない情報の具体例 をおさえれば、現場で迷ったときに立ち戻れる
  • 1. 個人情報（プライバシーに関する情報） をおさえれば、現場で迷ったときに立ち戻れる
  • 2. 企業の機密情報（社外秘） をおさえれば、現場で迷ったときに立ち戻れる

生成AIと「情報漏洩」：入力してはいけない情報 とは

生成AIを利用する際の最大のリスクである「情報漏洩」について学びます。入力してはいけない個人情報や機密情報の具体例、情報を抽象化して安全に使うプロンプトの書き方、学習を拒否する設定方法まで、初心者でも分かりやすく解説します。

生成AIで情報漏洩が起きる仕組みとリスク

ChatGPTを代表とする生成AIは、私たちの日常的な業務や学習を劇的に効率化してくれます。しかし、その利便性の裏側に潜んでいるのが「情報漏洩」のリスクです。まず、なぜ生成AIを使うことで情報が漏れる可能性があるのか、その仕組みを正しく理解しましょう。

多くの生成AIサービスでは、ユーザーが入力したプロンプト（指示文）を、AIのモデルを改善するための学習データとして利用する設定がデフォルト（初期状態）になっています。つまり、あなたがAIに相談した内容は、将来的に他のユーザーへの回答の一部として、形を変えて表出してしまう可能性があるのです。

また、クラウドサービスである以上、サービス自体の脆弱性やサイバー攻撃によって、過去の対話履歴が第三者に閲覧されるリスクもゼロではありません。生成AIを「自分専用の閉じたノート」ではなく、不特定多数がアクセスする可能性のある公共の掲示板と同じような感覚で扱うことが、安全利用の第一歩です。

入力情報は「あなたの手元」ではなく「AIベンダーのサーバー」に保存されます。学習利用とサイバー攻撃の二重リスクがあるため、社外秘は原則そのまま入力してはいけません。

学習データ化 — 入力プロンプトがモデル再学習の素材になり、将来別ユーザーへの回答へ形を変えて現れる可能性のある状態のこと。

diagram (will load when visible)

生成AIに入力してはいけない情報の具体例

どのような情報が「入力してはいけないもの」に該当するのでしょうか。大きく分けて、以下の3つのカテゴリーに注意が必要です。これらをAIに入力することは、企業の信頼失墜や法的なトラブルを招く恐れがあります。

1. 個人情報（プライバシーに関する情報）

自分自身はもちろん、同僚、顧客、友人の氏名、住所、電話番号、メールアドレスなどを入力してはいけません。「〇〇さんの履歴書を要約して」といった使い方は非常に危険です。

2. 企業の機密情報（社外秘）

開発中の新製品のスペック、未発表のプロジェクト名、経営戦略、契約書の内容などは、企業の競争力を左右する重要な資産です。これらをAIに読み込ませて分析させることは、技術流出に直結します。

3. 顧客や取引先のデータ

業務で扱う顧客リストや、取引先から預かっている非公開情報は、最も厳重に管理すべきものです。これらをAIの学習に使わせてしまうことは、重大な契約違反になる可能性があります。

以下の表で、具体的に避けるべき情報の例を整理しました。

カテゴリ入力してはいけない情報の例
個人情報氏名、生年月日、マイナンバー、クレジットカード番号、病歴
企業秘密未発表の企画書、独自のソースコード、パスワード、財務諸表
顧客データ顧客の購入履歴、アンケート回答の生データ、クレーム内容

判断に迷ったら「もしこの情報がそのまま公開掲示板に貼られたら困るか？」を自問するのが安全な基準です。困るものは、原則として入力しないと考えてください。

diagram (will load when visible)

良い例と悪い例で学ぶ、安全なプロンプトの作り方

機密情報を扱いたい場合でも、工夫次第で安全に生成AIを活用できます。【ポイント】具体的な固有名詞を隠し、情報を抽象化（一般化）することです。

避けたい例 悪い入力例（機密情報をそのまま入力） 「株式会社テックリードの佐藤太郎部長（090-xxxx-xxxx）から届いた、新製品『AI-Master 2024』に関する以下の苦情メールへの返信文を、弊社の品質管理規定に基づいて作成してください。[メール本文を貼り付け]」

良い例 良い入力例（情報を抽象化・ダミー化して入力） 「取引先の担当者から、IT製品の不具合に関するクレームが届きました。以下の状況設定に基づき、誠実で丁寧な謝罪メールの草案を、一般的なビジネスマナーに則って作成してください。 ・送り手 → 自社のカスタマーサポート ・受け手 → 法人顧客の責任者 ・問題内容 → システムの動作遅延 ・今後の対応 → 原因調査後、3日以内に再報告」

このように、特定の個人や企業を特定できる情報を削除し、一般的なシチュエーションに置き換えることで、情報漏洩のリスクを最小限に抑えつつ、AIの能力を引き出すことができます。

抽象化のコツは「固有名詞 → 役割」「具体数値 → 比率や範囲」への置き換えです。AIに必要なのは構造であって、本物の固有名詞ではありません。

安全に生成AIを使いこなすためのセキュリティ対策

情報を入力する際の注意だけでなく、ツールの設定を変更することでセキュリティレベルを向上させることができます。主要な生成AIでは、入力したデータを学習に使わせないための「オプトアウト」という設定が用意されています。

オプトアウト設定を活用する

ChatGPTの場合、「設定（Settings）」→「データコントロール（Data Controls）」から、「Improve the model for everyone（モデルの改善に協力する）」をオフにすることができます。これをオフにすることで、あなたの入力内容がAIの学習に使われるのを防ぐことができます。現在は履歴を保存したまま学習だけをオフにできます。

ブラウザの拡張機能や非公式サイトに注意

生成AIを便利にするブラウザ拡張機能の中には、入力した内容を開発者のサーバーに送信するものもあります。信頼できる開発元のものかを確認し、むやみに情報を共有しないようにしましょう。また、ChatGPTを模倣した偽サイトや怪しいアプリに個人情報を入力してはいけません。

オプトアウト — 自分のデータをAIの学習対象から外す設定のこと。法人向けプランや API 利用ではデフォルトで学習対象外になっているケースもあります。

やってみよう

あなたは社内の会議議事録をChatGPTに要約させようとしています。その議事録には、参加者の実名と、来期発売予定の新サービスのコードネームが含まれています。そのまま貼り付けるのではなく、どのように工夫して入力すべきでしょうか？

解答のヒント:

  1. 参加者の名前を「Aさん」「Bさん」に置き換える。
  2. 新サービスの名称を「次期プロジェクト」と一般化する。
  3. 数値などは具体的な金額ではなく「目標比120%」などの比率に変える。

まとめ

生成AIは非常に強力なツールですが、使い方を誤ると大きなリスクを伴います。「一度ネットに流した情報は完全には消せない」という意識を持ち、機密情報や個人情報の取り扱いには細心の注意を払いましょう。情報を抽象化するテクニックと、オプトアウト設定などの機能を組み合わせることで、安全かつ効果的にAIの恩恵を受けることができます。

「情報を守ること」は、あなた自身と会社を守ることに直結します。最初は面倒に感じるかもしれませんが、情報を抽象化して伝えるスキルは、AI時代に必須の「リテラシー」となります。安全な習慣を身につけて、自信を持ってAIを使いこなしましょう。

現場でよくある具体例

  1. 業務ケース 1 — 議事録 30 分の音声 → 文字起こし → ChatGPT で要約・タスク抽出。1 件あたり 45 分 → 10 分に短縮
  2. 業務ケース 2 — 営業メールの下書きを Claude で量産し、人が最終チェック。「型 + 個別事情」で送信本数 3 倍、開封率 1.4 倍
  3. 業務ケース 3 — 社内ヘルプデスクの一次回答を GPT-4o で自動化。コスト月 5 万円、対応削減 60 時間/月。ただし誤回答対策の人手レビューは継続

次にとるべきアクション

  1. 手元の業務タスクで「生成AIと「情報漏洩」：入力してはいけない情報とは」を 1 回試す — メール下書き / 議事録要約 / 資料リサーチのいずれかで OK
  2. 結果を社内 Wiki / Notion に貼る — 入力プロンプト + 出力 + 使い物になったか、を 3 行で記録する
  3. 翌日もう一度同じプロンプトを試す — 再現性と揺らぎを確認し、必要なら指示を 1 行追加する

次のレッスン

次は 会社で生成AIを使う際のガイドラインと注意点 で、会社で生成AIを使う際のガイドラインと注意点 を学びます。

事前確認 — 進む前に次の 3 つができることを確認しましょう。

  1. 生成AIと情報漏洩 の要点を自分の言葉で説明できる
  2. このレッスンの最小コード (または操作手順) を見ずに書ける
  3. 練習問題やクイズで間違えた箇所を読み直して理解した

理解度チェック (30 秒)

Q. 生成AIと情報漏洩 とは何か、1 文で説明してください。

この章のポイント

A. 本文の「このレッスンで分かること」または冒頭の説明文を見直し、自分の言葉で要約できれば OK。詰まったら本レッスンの最初の H2 セクションを読み返してみましょう。

関連レッスン

参考にした出典

学習を加速したい方へ

生成 AI の基礎ガイドを体系的にマスターするなら、chotdekiru の無料学習ポータル で実際に手を動かして学習を始めるのがおすすめです。質問・つまずきも現役エンジニアが伴走します。

復習ミニクイズ

社内の新プロジェクトに関する議事録を生成AIに要約させたい場合、情報漏洩を防ぐための「最も適切な対応」はどれでしょうか？

参考リンク