生成AIと「情報漏洩」：入力してはいけない情報とは

貼り付けた一文は、もう手元にない

顧客から届いたメールをそのまま貼って「返信文を作って」と頼む。手早くて、つい毎日やってしまう使い方です。ただしその瞬間、メールの中身はあなたのパソコンではなく、AI を提供している会社のサーバーに渡っています。

多くのサービスでは、入力した内容が対話履歴として保存され、設定によってはモデルの改善にも使われると案内されています。扱いはサービスや契約の形によって違い、規約の改定で変わることもあります。

心配なのは学習に使われることだけではありません。共有リンクを作って渡した相手が別の人に転送する、アカウントを乗っ取られて履歴を丸ごと読まれる、といった経路もあります。生成 AI を「自分だけの閉じたノート」ではなく「外部に預けた書類」と考えるのが安全です。

貼ってよいかどうかを、その場で決める

迷ったときは、自分に一文投げてみてください。この文章が社外の掲示板に貼られたら困るか。 困るなら貼らない。それだけで、ほとんどの場面は仕分けできます。

「困る側」に入りやすいのは、次のようなものです。

許可なく使うと「シャドー AI」になる

会議の議事録を AI に要約させて、10 分で仕上げた。上司に見せたら「それ、どこに貼ったの」と聞かれて言葉に詰まる。会社の許可を取らずに個人の判断で生成 AI を業務に使っている状態は「シャドー AI」と呼ばれ、多くの企業が対策を進めています。

ガイドラインは利用を禁じるためではなく、どこまでなら安心して攻めてよいかの線を引くためにあります。最初にやることは AI の勉強ではなく規程の確認で、順番は次のとおりです。

1. 社内ポータルや Wiki を「生成 AI」「ChatGPT」で検索する
2. 見つからなければ、就業規則の情報管理・秘密保持の項を読む
3. それでも分からなければ、上司か情報システム部門に聞く

規則の中身は会社ごとにまったく違います。個人アカウントの業務利用を全面的に禁じている会社もあれば、法人契約のアカウントだけ許可している会社もあります。業種によっては、顧客情報の外部送信そのものが契約や監督官庁の指針で縛られていることもあります。ここに書いたのは一般的な考え方で、判断の正解は勤務先の規程のほうにあります。ルールがまだ無い会社なら、当面は「顧客と社外秘は入れない」「成果物は人が確認してから出す」の 2 つを自分のルールにしておくと、後から規程ができてもずれません。

固有名詞を消しても、依頼は通る

機密だから使えない、で終わらせる必要はありません。AI が必要としているのは状況の構造であって、本物の固有名詞ではないからです。

避けたいのは、実物をそのまま渡す書き方です。

株式会社テックリードの佐藤太郎部長から届いた、新製品
「AI-Master 2024」への苦情メールへの返信を作ってください。
（メール本文をそのまま貼り付け）

同じ依頼は、こう置き換えられます。

法人顧客の責任者から、システムの動作が遅いという苦情が届きました。
自社サポートの担当者として、謝罪と今後の対応を伝えるメールの草案を
作ってください。原因を調べたうえで 3 日以内に再報告する予定です。

固有名詞は役割に、具体的な金額は比率や範囲に置き換える。それだけで、出てくる文章の質はほとんど落ちません。会議の議事録を要約させたいときも同じで、参加者を A さん B さんに、社内のコードネームを「次期プロジェクト」に直してから渡せば、要約の役には十分立ちます。

学習に使わせない設定を確認する

多くのサービスには、入力内容をモデルの改善に使わせないための設定が用意されています。ChatGPT なら設定画面のデータ管理まわりに該当する項目があります。法人向けプランや API 経由の利用では、標準で学習の対象外になっていると説明されている場合もあります。

ただし項目名も初期値も更新のたびに変わります。ここに書いた名前を覚えるのではなく、使う前に設定画面と利用規約を自分で見に行く習慣のほうが長持ちします。設定を切ったからといって、社外秘をそのまま貼ってよいことにはならない点も忘れずに。

出した文章の責任は、人に残る

入力の話ばかりされがちですが、出力の扱いのほうが事故になりやすい面があります。生成 AI は、もっともらしい嘘をそのままの口調で書きます。提案書の下書きを頼むと、それらしい市場規模の数字と調査会社の名前が添えられて返ってくることがありますが、どちらも実在しないことがあります。確認せずに社外へ送れば、訂正のコストは AI が払ってくれません。

著作権についても、生成物が既存の作品に似ていた場合の扱いは事案ごとの判断になり、専門家の間でも議論が続いています。少なくとも「特定の作家風に書いて」「あのキャラクターを模して」といった指示は、そのまま公開する用途では避けておくのが無難とされています。

そこで、AI の出力を成果物にする前に人が読んで直す工程を必ず挟みます。これを Human-in-the-Loop と呼びます。AI は下書きを書く担当で、最終責任を負うのは名前を出して提出するあなたです。

明日からできる 3 つの手

• 会社が法人向けのアカウントを用意していないか確認する
• 外部に出す文章は、数字と社名だけでも自分で裏を取る
• AI を使って作った資料には、その旨と自分が確認した旨を添える

この 3 つを守っている人は、社内で新しい道具を試すときにいちばん自由に動けます。「ちゃんと確認して使っている人」という評価が先にあると、次の提案が通りやすくなるからです。