「ChatGPTに、お客様の情報を入れてしまったかもしれない」
「社員に、何を入力してはいけないのか、どう説明すればよいか分からない」
生成AIは便利ですが、入力した内容が外部のサービスに送られることを、忘れてはいけません。設定や使い方しだいで、情報が学習に使われたり、意図しない形で共有されたりする可能性があります。
本記事では、生成AIを使うときの情報漏えいが起きるパターン、入力してはいけない情報、ChatGPTなどの設定のしかた、そして万一入力してしまったときの対応を、わかりやすくまとめます。
生成AIで情報漏えいが起きる4つのパターン
1. 個人の無料アカウントに、会社の情報を入力する
会社が把握していない個人のアカウントで、顧客の名前や契約内容を入力するケースです。設定や履歴を、会社が管理できません。
2. 資料やPDF、画像をそのままアップロードする
文章を貼り付けるより、資料ごとアップロードするほうが、含まれている情報の量が多くなります。見積書や名簿が入っていることもあります。
3. 共有リンクを、公開状態のままにする
AIとのやり取りを、リンクで共有できる機能があります。共有した内容が、第三者に見られる状態で残っていないか、確認が必要です。
4. 議事録や翻訳のツールに、社外秘の会議を預ける
会議の音声や文字起こしを、AIの議事録サービスに任せる場合も、サービス側にデータが渡ります。使ってよいツールかを、事前に確認しておきましょう。
入力してはいけない情報
| 区分 | 具体例 | 代わりの方法 |
|---|---|---|
| 個人情報 | 氏名、住所、電話番号、メールアドレス、顧客リスト | 「A様」などに置き換える。入力しない |
| 契約・取引の情報 | 契約書の全文、見積金額、取引条件 | 金額や条件を伏せ、「〇〇円」に置き換える |
| 認証情報 | パスワード、認証コード、APIキー | どんな場合も入力しない |
| 未公開の経営情報 | 決算前の数字、人事情報、新製品の計画 | 一般論の質問に言い換える |
| 他社から預かった情報 | 取引先の資料、秘密保持契約の対象 | 原則として入力しない。契約を確認する |
個人情報については、個人情報保護委員会が2023年6月2日に注意喚起を公表しています。個人情報を入力する場合は、利用目的の範囲内か、そして入力した内容が、AIの学習に使われないかなどの確認が必要とされています。
入力前にできる「置き換え」のコツ
どうしても、実際の文章をAIに整えてもらいたいときは、固有名詞や数字を置き換えてから入力します。
| 元の文章 | 置き換えた文章 |
|---|---|
| 株式会社〇〇建設の山田部長から、納期を3月15日に変更したいと連絡がありました。見積金額は480万円です。 | A社のB部長から、納期を変更したいと連絡がありました。見積金額は〇〇円です。 |
| お客様(東京都〇〇区、田中花子様)への謝罪メールを作って | お客様(B様)への謝罪メールの文面を作って(住所・氏名は入れない) |
置き換えた文章でAIに下書きを作ってもらい、あとから自分で元の名前や数字に戻します。
設定のしかた|入力内容を学習に使わせない
ここで紹介する画面の名称は、2026年11月時点のものです。サービスの更新で変わることがあるので、実際の画面で確認してください。
ChatGPTの場合
設定の中の「データコントロール」に、入力内容をAIの改善に使うかどうかを選ぶ項目があります。個人向けのアカウントで業務に使う場合は、この設定を確認し、AIの改善に協力する設定をオフにします。
実際に研修で、この「データコントロール」を初めて知ったという声をいただいています。
GeminiやCopilotの場合
- Gemini:Googleアカウントの、アクティビティ(履歴)に関する設定を確認します。
- Microsoft Copilot:会社のMicrosoft 365のアカウントでサインインして使います。個人のアカウントとは、データの扱いが異なる場合があります。
法人向けのプランを使う
入力内容を学習に使わない旨を、規約や契約で示している法人向けのプランがあります。会社として使うなら、個人の無料アカウントではなく、法人向けのプランを選ぶのが基本です。ただし、契約内容はサービスごとに異なるため、最新の規約で確認してください。
履歴と共有リンクの確認
過去のやり取りの履歴と、共有リンクを、定期的に確認し、不要なものは削除します。
もし入力してしまったら|対応の5ステップ
- 1. すぐに報告する:決められた担当者に、何を・いつ・どのAIに入力したかを伝えます。報告した人を責めないことが大切です。
- 2. 入力した内容を確認する:個人情報、契約内容、パスワードなど、何が含まれていたかを整理します。
- 3. 履歴を削除する:AIの画面で、該当のやり取りを削除します。共有リンクがあれば、無効にします。
- 4. パスワードを変える:パスワードや認証コードを入力した場合は、すぐに変更します。
- 5. 必要に応じて専門家や窓口に相談する:個人情報が含まれる場合は、漏えい等に当たるかを、専門家や個人情報保護委員会の窓口に確認します。
個人情報の漏えい等に当たる場合は、一定の条件のもとで、国(個人情報保護委員会)への報告と本人への通知が義務になります。詳しくは、次の記事でも解説しています。
▶ 中小企業の経営者が知るべきAI時代のサイバーセキュリティ対策
社内でできる情報漏えい対策チェックリスト
- 使ってよいAIとアカウントが決まっている
- 入力してはいけない情報が、社員に周知されている
- 入力内容が学習に使われない設定を確認した
- 共有リンクや履歴を、定期的に確認している
- 間違えて入力したときの連絡先が決まっている
- 報告した人を責めない、という方針を伝えている
- 年に1回、ルールを見直している
- 社員向けの研修を行っている
ルールの作り方は、次の記事でひな形つきで解説しています。
▶ 生成AIの社内利用ルール(ガイドライン)の作り方|中小企業向け・ひな形つき
情報漏えいを防ぐ生成AI研修のご相談
株式会社シンプルブランドの生成AI研修では、使い方だけでなく、情報漏えいを防ぐ設定(ChatGPTのデータコントロールなど)まで、その場で実際に操作しながらお伝えしています。業界団体の研修でも、「セキュリティ面を入れてほしい」というご要望にお応えして、設定まで踏み込んで実施しました。
▶ 一般社団法人 日本食品機械工業会様|生成AI研修(東京)
▶ 法人向けAI研修(生成AI研修)の講師派遣
▶ AI時代のサイバーセキュリティ対策|経営者向け講演・研修
料金
60分:165,000円(税込)
90分:165,000円(税込)
120分:220,000円(税込)
上記に加え、交通費(前泊や終電がない場合は宿泊費)をご負担いただきます。
よくあるご質問
Q. 無料のChatGPTを、業務で使ってもよいですか?
会社として使うなら、法人向けのプランをおすすめします。個人の無料アカウントを使う場合は、入力してはいけない情報を決め、設定を確認したうえで、社内ルールに沿って使いましょう。
Q. AIの学習に使われない設定をすれば、何を入力しても安全ですか?
いいえ。学習に使われない設定は、対策の一部です。個人情報や契約内容などは、設定にかかわらず、入力しないか、置き換えるのが基本です。
Q. 社員が使っているかどうかを、会社が把握できますか?
無記名のアンケートで、使っているツールと業務を聞く方法が、現実的です。把握したうえで、使ってよいツールを決めます。
まとめ
生成AIの情報漏えいを防ぐ基本は、入力してはいけない情報を決める、設定を確認する、間違えたらすぐ報告できる雰囲気をつくるの3つです。まずは、社員が個人のアカウントで会社の情報を入力していないかを、確認するところから始めましょう。
出典:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日)、IPA(情報処理推進機構)「情報セキュリティ10大脅威 2026」
