生成AIの情報漏えいを防ぐ|社員が入力してはいけない情報と、設定のしかた

「ChatGPTに、お客様の情報を入れてしまったかもしれない」

「社員に、何を入力してはいけないのか、どう説明すればよいか分からない」

生成AIは便利ですが、入力した内容が外部のサービスに送られることを、忘れてはいけません。設定や使い方しだいで、情報が学習に使われたり、意図しない形で共有されたりする可能性があります。

本記事では、生成AIを使うときの情報漏えいが起きるパターン、入力してはいけない情報、ChatGPTなどの設定のしかた、そして万一入力してしまったときの対応を、わかりやすくまとめます。

生成AIで情報漏えいが起きる4つのパターン

1. 個人の無料アカウントに、会社の情報を入力する

会社が把握していない個人のアカウントで、顧客の名前や契約内容を入力するケースです。設定や履歴を、会社が管理できません。

2. 資料やPDF、画像をそのままアップロードする

文章を貼り付けるより、資料ごとアップロードするほうが、含まれている情報の量が多くなります。見積書や名簿が入っていることもあります。

3. 共有リンクを、公開状態のままにする

AIとのやり取りを、リンクで共有できる機能があります。共有した内容が、第三者に見られる状態で残っていないか、確認が必要です。

4. 議事録や翻訳のツールに、社外秘の会議を預ける

会議の音声や文字起こしを、AIの議事録サービスに任せる場合も、サービス側にデータが渡ります。使ってよいツールかを、事前に確認しておきましょう。

入力してはいけない情報

区分具体例代わりの方法
個人情報氏名、住所、電話番号、メールアドレス、顧客リスト「A様」などに置き換える。入力しない
契約・取引の情報契約書の全文、見積金額、取引条件金額や条件を伏せ、「〇〇円」に置き換える
認証情報パスワード、認証コード、APIキーどんな場合も入力しない
未公開の経営情報決算前の数字、人事情報、新製品の計画一般論の質問に言い換える
他社から預かった情報取引先の資料、秘密保持契約の対象原則として入力しない。契約を確認する

個人情報については、個人情報保護委員会が2023年6月2日に注意喚起を公表しています。個人情報を入力する場合は、利用目的の範囲内か、そして入力した内容が、AIの学習に使われないかなどの確認が必要とされています。

入力前にできる「置き換え」のコツ

どうしても、実際の文章をAIに整えてもらいたいときは、固有名詞や数字を置き換えてから入力します。

元の文章置き換えた文章
株式会社〇〇建設の山田部長から、納期を3月15日に変更したいと連絡がありました。見積金額は480万円です。A社のB部長から、納期を変更したいと連絡がありました。見積金額は〇〇円です。
お客様(東京都〇〇区、田中花子様)への謝罪メールを作ってお客様(B様)への謝罪メールの文面を作って(住所・氏名は入れない)

置き換えた文章でAIに下書きを作ってもらい、あとから自分で元の名前や数字に戻します。

設定のしかた|入力内容を学習に使わせない

ここで紹介する画面の名称は、2026年11月時点のものです。サービスの更新で変わることがあるので、実際の画面で確認してください。

ChatGPTの場合

設定の中の「データコントロール」に、入力内容をAIの改善に使うかどうかを選ぶ項目があります。個人向けのアカウントで業務に使う場合は、この設定を確認し、AIの改善に協力する設定をオフにします。

実際に研修で、この「データコントロール」を初めて知ったという声をいただいています。

GeminiやCopilotの場合

  • Gemini:Googleアカウントの、アクティビティ(履歴)に関する設定を確認します。
  • Microsoft Copilot:会社のMicrosoft 365のアカウントでサインインして使います。個人のアカウントとは、データの扱いが異なる場合があります。

法人向けのプランを使う

入力内容を学習に使わない旨を、規約や契約で示している法人向けのプランがあります。会社として使うなら、個人の無料アカウントではなく、法人向けのプランを選ぶのが基本です。ただし、契約内容はサービスごとに異なるため、最新の規約で確認してください。

履歴と共有リンクの確認

過去のやり取りの履歴と、共有リンクを、定期的に確認し、不要なものは削除します。

もし入力してしまったら|対応の5ステップ

  • 1. すぐに報告する:決められた担当者に、何を・いつ・どのAIに入力したかを伝えます。報告した人を責めないことが大切です。
  • 2. 入力した内容を確認する:個人情報、契約内容、パスワードなど、何が含まれていたかを整理します。
  • 3. 履歴を削除する:AIの画面で、該当のやり取りを削除します。共有リンクがあれば、無効にします。
  • 4. パスワードを変える:パスワードや認証コードを入力した場合は、すぐに変更します。
  • 5. 必要に応じて専門家や窓口に相談する:個人情報が含まれる場合は、漏えい等に当たるかを、専門家や個人情報保護委員会の窓口に確認します。

個人情報の漏えい等に当たる場合は、一定の条件のもとで、国(個人情報保護委員会)への報告と本人への通知が義務になります。詳しくは、次の記事でも解説しています。
▶ 中小企業の経営者が知るべきAI時代のサイバーセキュリティ対策

社内でできる情報漏えい対策チェックリスト

  • 使ってよいAIとアカウントが決まっている
  • 入力してはいけない情報が、社員に周知されている
  • 入力内容が学習に使われない設定を確認した
  • 共有リンクや履歴を、定期的に確認している
  • 間違えて入力したときの連絡先が決まっている
  • 報告した人を責めない、という方針を伝えている
  • 年に1回、ルールを見直している
  • 社員向けの研修を行っている

ルールの作り方は、次の記事でひな形つきで解説しています。
▶ 生成AIの社内利用ルール(ガイドライン)の作り方|中小企業向け・ひな形つき

情報漏えいを防ぐ生成AI研修のご相談

株式会社シンプルブランドの生成AI研修では、使い方だけでなく、情報漏えいを防ぐ設定(ChatGPTのデータコントロールなど)まで、その場で実際に操作しながらお伝えしています。業界団体の研修でも、「セキュリティ面を入れてほしい」というご要望にお応えして、設定まで踏み込んで実施しました。
▶ 一般社団法人 日本食品機械工業会様|生成AI研修(東京)
▶ 法人向けAI研修(生成AI研修)の講師派遣
▶ AI時代のサイバーセキュリティ対策|経営者向け講演・研修

料金

60分:165,000円(税込)
90分:165,000円(税込)
120分:220,000円(税込)

上記に加え、交通費(前泊や終電がない場合は宿泊費)をご負担いただきます。

よくあるご質問

Q. 無料のChatGPTを、業務で使ってもよいですか?

会社として使うなら、法人向けのプランをおすすめします。個人の無料アカウントを使う場合は、入力してはいけない情報を決め、設定を確認したうえで、社内ルールに沿って使いましょう。

Q. AIの学習に使われない設定をすれば、何を入力しても安全ですか?

いいえ。学習に使われない設定は、対策の一部です。個人情報や契約内容などは、設定にかかわらず、入力しないか、置き換えるのが基本です。

Q. 社員が使っているかどうかを、会社が把握できますか?

無記名のアンケートで、使っているツールと業務を聞く方法が、現実的です。把握したうえで、使ってよいツールを決めます。

まとめ

生成AIの情報漏えいを防ぐ基本は、入力してはいけない情報を決める、設定を確認する、間違えたらすぐ報告できる雰囲気をつくるの3つです。まずは、社員が個人のアカウントで会社の情報を入力していないかを、確認するところから始めましょう。

出典:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日)、IPA(情報処理推進機構)「情報セキュリティ10大脅威 2026」

  • URLをコピーしました!