生成AIセキュリティインシデント対応ガイド｜情報漏洩・不正利用が発覚したとき最初の3時間でやること

2026年9月16日

社内でChatGPTやClaudeを使い始めてから、「誰かが顧客の個人情報をプロンプトに貼り付けていた」「競合他社に見せられない社内情報が外部AIサービスに送信されていた」というインシデントは、どの企業にも起こりうる問題です。

この記事では、生成AIのセキュリティインシデントが発覚した際の初動対応を、最初の3時間・24時間以内・再発防止の3フェーズに分けて解説します。AI利用規程を整えた後でも発生しうるリスクに備えた、中小企業の情報システム担当者・AI推進担当者向けの実践ガイドです。

生成AIセキュリティインシデントとは

生成AIに関連するセキュリティインシデントとは、ChatGPT・Claude・Geminiなどの外部AIサービスを利用する過程で発生した、情報漏洩・不正利用・著作権侵害などの問題全般を指します。

一般的なサイバー攻撃と異なり、生成AIのインシデントの多くは悪意のない社員による操作ミスから発生します。「資料作成を効率化しようとして、つい顧客情報ごとプロンプトに貼り付けてしまった」というケースが典型例です。悪意がないぶん発覚が遅れやすく、被害が広がってから気づくケースも珍しくありません。

よくある生成AIインシデントの4つの種類

生成AIに関連するインシデントには、大きく分けて次の4種類があります。

・機密情報・個人情報の誤入力: 顧客の氏名・住所・契約内容などをAIプロンプトに貼り付け、外部サーバーに送信してしまうケース。最も発生頻度が高い。
・社内機密データの外部送信: 戦略資料・未公開財務情報・製品仕様書などをAIに読み込ませ、クラウド上のAIサービスに保存されるケース。
・AIが生成したコンテンツによる著作権侵害: AIが生成した文章・画像が他社の著作権物に類似していたケース。特に画像生成AIで発生しやすい。
・AIを経由したソーシャルエンジニアリング被害: AI生成のフィッシングメールや偽サイトに社員が騙され、認証情報や機密情報を渡してしまうケース。

このうち最も多いのが「機密情報・個人情報の誤入力」です。発覚のきっかけが「社員の自己申告」や「上長への相談」であるため、インシデント対応の入口を整備しておくことが重要です。

何を入力してよいかの判断基準については、社外AIサービスに社内情報を入力してよい基準｜データ分類と入力判断フローをあわせて参照してください。

発覚から最初の3時間でやること

インシデント対応で最も重要なのが発覚直後の3時間です。この時間帯の動き方が、その後の被害の広がりと収束のスピードを左右します。

1. インシデント内容を記録する（発覚から30分以内）

発覚した瞬間から記録を始めることが最優先です。WordやGoogleドキュメントなど、すぐに開けるツールで以下の情報を記録します。

・発覚した日時: 正確な時刻（例: 2026年9月16日 10:32）
・報告者: 誰が・どのような経緯で発見したか
・使用したAIツール: ChatGPT / Claude / Gemini / Copilot など
・送信した内容の概要: 機密情報の種類・おおよその量（「顧客リスト約50件分の氏名・メールアドレス」など）
・送信した可能性のある対象者の範囲: 当事者1名か複数名か

この記録は後の調査・報告・再発防止策の設計すべてに使います。詳細が不明な時点でも「判明している範囲のみ」で残してください。

2. 上長と管理部門にエスカレーションする（30分以内）

発覚者が一人で抱え込まず、以下の順でエスカレーションします。

・直属の上長 → 情報システム部門または管理部門 → 経営層の順に報告
・インシデントの規模が大きい場合（個人情報が多数含まれる等）は、法務部門・顧問弁護士にも即日連絡
・個人情報保護法の観点から、一定規模以上の個人情報漏洩は個人情報保護委員会への報告義務が生じるため、専門家への早期相談が重要

報告のタイミングが遅れると、後で「なぜすぐに報告しなかったのか」という問題に発展します。「まだ詳細が分からない」段階でも報告し、「続報は○時間後に連絡する」と伝えれば問題ありません。

3. 問題のあったAIツールの利用を停止・制限する（1時間以内）

被害の拡大を防ぐため、問題が起きたAIツールの利用を一時停止または制限します。

・該当ツールへのアクセスを管理者アカウントから制限
・社内全員に「○○ツールの利用を一時停止してください」と周知（Slackやメールで即時連絡）
・会話履歴の削除・エクスポートが可能な場合は即時実施

ChatGPTで会話履歴を削除する操作手順:
「設定（歯車アイコン）」→「データコントロール」→「すべての会話を削除」で全履歴を削除できます。ただし、削除前に証跡として内容をスクリーンショットまたはエクスポートしておいてください。

完全停止が難しい場合は、当該アカウントのパスワードをリセットするだけでも被害拡大の防止に効果があります。

4. 影響範囲の暫定評価（3時間以内）

「どこまで広がっているか」を初期評価します。この段階では「暫定」で問題ありません。

・誰が: 当事者1名か、複数の社員が同様の操作をしている可能性があるか
・何を: 個人情報（要通知・報告義務あり）か、社内機密か、その両方か
・どのサービスに: 企業向けプランは学習に使われないことが多いが、無料プランは対象外になるケースがある（利用規約を確認）
・二次被害の可能性: 漏洩した情報が悪用される可能性があるか

この暫定評価を元に、24時間以内のフェーズで詳細調査を行います。

24時間以内にやること

初動対応が完了したら、翌営業日中（または24時間以内）に以下の対応を進めます。

・利用ログの収集: 該当ツールの利用記録・送信内容を可能な範囲で保存・記録
・当事者へのヒアリング: 何を目的に・どんな内容を・どの程度の量を送信したかを文書に残す（責任追及でなく事実確認が目的であることを事前に伝える）
・法的義務の確認: 個人情報保護法に基づき、本人通知・個人情報保護委員会への報告が必要かどうかを法務または顧問弁護士に確認
・AIサービスのプロバイダへの問い合わせ: データがどのように扱われているか、削除依頼が可能かを問い合わせる（OpenAIはサポートページから「データ削除リクエスト」が可能）
・経営層への中間報告: 初動対応の結果と現時点での影響範囲の暫定評価を報告

生成AIの利用ログを日常的に管理する仕組みについては、生成AIの利用ログ管理と内部監査体制の作り方で詳しく解説しています。

再発防止策を3日以内に設計する

インシデント後は「なぜ起きたか」を分析し、再発防止策を3日以内に設計、1週間以内に実施スケジュールを確定させるのが理想です。

【原因別】主な再発防止策

原因	再発防止策	実施難易度
社員が入力してよい情報を理解していなかった	入力禁止情報の分類ルールを文書化・研修実施	低
無料プランを使っていた	企業向けプラン（Teams/Pro）に全社切り替え	中（費用発生）
利用規程がなかった・形骸化していた	利用規程の改定と全社周知、同意署名の取得	低
管理者がAI利用状況を把握していなかった	利用ログの定期監査ルーティンを設ける	中
入力前の確認習慣がなかった	「送信前の5秒チェック」ポスターをデスクに掲示	低

生成AI利用規程がまだ整備できていない場合は、生成AI利用規程の作り方｜就業規則に追加できるテンプレートと法的注意点を参考に作成してください。

情報漏洩リスクの全体像と日常的な予防策については、生成AIの情報漏洩リスクと対策｜社内利用で守るべき5つのルールもあわせてご覧ください。

なお、AI導入に伴うセキュリティ対策の全体設計については、姉妹サイトセキュリティマスターズ.TOKYOで詳しく解説しています。

インシデント対応に備えた事前準備チェックリスト

インシデントが起きてから慌てないために、以下の項目を事前に整備しておくことを推奨します。

・インシデント対応連絡先リストの整備: 情報システム部門・法務・経営層・顧問弁護士の緊急連絡先を一覧化してファイルサーバーに保存
・AIツールの管理者アカウントの把握: 誰がどのツールの管理者権限を持つかをExcelなどで記録
・各AIサービスのデータ削除手順の文書化: ChatGPT・Claude・Gemini別に操作手順をスクリーンショット付きで作成
・個人情報保護委員会への報告基準の確認: 何件以上・どの種類の個人情報が漏洩した場合に報告義務が生じるかを法務または顧問弁護士に確認し記録
・初動対応マニュアルの作成: 本記事のフローを自社仕様にカスタマイズし、全社員がアクセスできる場所に保存
・年1回以上の対応訓練: 想定インシデントシナリオを用いたシミュレーションを実施

事前にこれらが整備されていれば、インシデント発生時の対応時間を大幅に短縮できます。生成AI導入に伴う組織的なリスク管理全体については、姉妹サイトDXマスターズ.TOKYOでも詳しく解説しています。

本記事のまとめ

生成AIセキュリティインシデントが発覚した際は、次の3フェーズで対応します。

フェーズ	主な対応	完了目標
初動対応	記録・エスカレーション・ツール停止・暫定評価	発覚から3時間以内
詳細調査・報告	ログ収集・ヒアリング・法的義務確認・プロバイダ問い合わせ	24時間以内
再発防止	原因分析・規程改定・研修・監査ルーティン構築	3日以内に設計・1週間以内に実施スケジュール確定