お問い合わせ
2026 / 08 / 20 セキュリティ

AI経由の事案が起きたとき、事務所内でたどる報告の流れ

Lead

AIに貼り付けた情報の漏えい、誤った出力の顧客提供、認証情報の流出など、士業事務所で起きやすいAI由来の事案について、検知から再発防止までの5段階の流れと、個人情報保護委員会への報告期限、顧客説明の骨子を業務の流れに沿ってご紹介します。

関与先の情報を含むメモを汎用のAIチャットに貼り付けて要約を作ったあとで、社名や担当者名が入ったままだったことに気づく。AIを業務で使っていれば、この種の場面はどの事務所でも起こり得ます。

このとき、先に履歴やキャッシュの削除へ進むと、情報がどこに送られたのか、サービス側にどう保存されたのか、どこまで戻せるのかが分からないまま証拠が消え、後から状況を把握できなくなります。

本稿は、士業事務所でAIに関わる想定外の挙動 ( = 情報漏えい、誤った出力の顧客提供、認証情報の流出など ) が起きた場面で、事務所として最低限たどっておきたい流れを、検知 → 封じ込め → 通知 → 原因究明 → 再発防止 の5段階に沿ってご紹介します。事案が起きてから流れを考え始めるのは間に合いにくいので、平時のうちに紙1〜2枚で書いておくと、事案の場面で流れを探さずに済みます。

事務所で起きやすいAI由来の事案

士業事務所で見聞きするAI由来の事案は、いくつかのパターンに分かれます。共通するのは、悪意のある操作ではなく、現場の善意の作業から発生しているという点です。

  • 入力に起因する場面: 個人情報や関与先情報を含むテキストを、外部のAIサービスに貼り付けてしまう流れです。プロンプトの履歴やサービス側のログに情報が残ることがあります
  • 出力に起因する場面: AIが生成した文章に、事実誤認・架空の判例・存在しない条文が含まれていて、確認を経ずに顧客に提出してしまう流れです
  • 認証情報に起因する場面: APIキー・社内システムのID/パスワード・関与先のログイン情報を、デバッグや作業効率化の名目でAIに貼り付けてしまう場面です
  • 連携に起因する場面: AIと業務システム ( クラウド会計・電子契約 等 ) を連携させた結果、想定していなかったデータがAI側に流れる、またはAIが想定外の操作をする場面です
  • アカウントに起因する場面: 退職した方のアカウントが残っていて、退職後にAI経由で社内情報にアクセスされる場面です

入力・出力に関する場面は、事務所の規模を問わず起こり得ます。連携・アカウントに関する場面は、AIを業務に組み込むほど接点が増える分、起こり得る箇所も増えていきます。

ここで間違えやすいのは、「事案 = 個人情報漏えい」と狭く捉えてしまうことです。事実誤認のある文書を顧客に提出してしまう場面も、士業の信用に直結するので、同じ報告の流れに乗せておく事務所もあります。「個人情報の漏えいではないから報告しなくていい」という線引きが現場で広がると、出力起因の場面が水面下にとどまりやすくなります。

検知 — 誰がどう気付くか

事案が事案として認識される瞬間です。職員の方が自分で気付く、別の職員の方が声をかける、顧客から問い合わせが来る、外部からの通報など、きっかけはさまざまです。

事務所として整えておきたいのは、「気付いた職員の方が、責められずに最初の一報を入れられる窓口がある」という状態です。窓口は所長・代表お一人で十分という事務所もあります。「迷ったら相談」「相談したことを責めない」を事務所として明示しておくと、初動が動きやすくなります。

封じ込め — 被害をそれ以上広げない

検知の直後にやっていることは、証拠の保全と被害拡大の停止です。順序には意味があります。

  • 入力履歴・出力履歴・送信先サービス名・送信時刻を、スクリーンショットで残しておく ( 消す前に )
  • 外部のAIサービスのアカウント設定で、学習への利用opt-outが可能なら設定する
  • 漏えいの可能性がある認証情報があれば、すぐに変更する
  • 関連する社内システムのログイン履歴を確認する

「消す」より「残す」が先になります。何が起きたのか分からないまま証拠を消してしまうと、その後の原因究明と通知が成立しにくくなります。

通知 — 誰に何をいつまでに伝えるか

通知先は複数あり、それぞれ期限が違います。

報告義務の要件については、次の節で見ていきます。

原因究明 — なぜ起きたか

封じ込めと通知が一段落したら、技術的・運用的な原因を見ていきます。

  • どのAIサービスに、誰が、どの情報を、いつ送信したのか
  • そのサービスは、学習への利用opt-out設定がされていたか
  • そもそも、その情報を入力してよいというルールがあったか / なかったか
  • 同じ操作を他の職員の方もしている可能性はあるか

原因究明は「個人を責めるため」ではなく「同じ事案を繰り返さないため」に置かれている工程です。この前提が崩れると、次回から事案が報告に乗りにくくなります。事務所内のルール文書に「報告した方を責めない」という一文を入れている事務所もあります。

再発防止 — 仕組みに落とす

原因が見えてきたら、仕組みで再発しにくくしていきます。個人の注意力に頼る形にすると、時間が経つと運用が動きにくくなることがあります。

  • 入力してよい情報・してはいけない情報のリストを更新する
  • 使ってよいAIサービスのリスト ( 学習利用opt-out確認済みのもの ) を更新する
  • 必要なら、職員向けの追加説明を15〜30分で行う
  • 事案を匿名化して、事務所内のナレッジに残す

ナレッジ化のところを丁寧にしておくと、次に類似の場面が起きたとき、初動の動き方が変わります。

個情委への報告義務の4要件

個人情報保護法令上、一定の要件に該当する漏えい等が起きた場合は、個人情報保護委員会への報告と本人への通知が求められます。要件は4つに整理されています ( 個人情報保護委員会 漏えい等の対応とお役立ち資料 )。

要件内容 ( 例 )
要配慮個人情報の漏えい病歴・健康診断結果・犯罪歴 など
財産的被害のおそれクレジットカード番号、 ログインID・パスワード など
不正目的による行為不正アクセス、 内部不正持ち出し 等
大規模漏えい民間事業者は1,000人超、 行政機関等は100人超

士業事務所の場合、関与先の決算情報・税務情報・社員の方の給与情報・健康情報などを扱う場面が多く、要配慮個人情報・財産的被害のおそれの2要件に該当する場面も出てきやすいです。「うちは1,000人もの規模じゃないから」という線引きで判断すると、別の要件で該当している場面を見落としやすくなります。

報告期限は、速報が発覚から3〜5日以内、確報が30日以内 ( 不正目的起因の場合は60日以内 ) とされていて、報告フォームは個人情報保護委員会のサイトに用意されています。本人通知も個人情報保護法令上求められていて、ガイドラインでは「事案の状況に応じて速やかに」行うこととされています。本人通知が困難な場合は、事案の公表や問合せ窓口の設置・公表など、代替措置が認められています。

生成AI経由での個人情報の取り扱いについては、個人情報保護委員会が2023年6月2日付で「生成AIサービスの利用に関する注意喚起等」を公表しています ( 個人情報保護委員会2023-06-02 )。「AI経由だから例外」という整理にはならず、通常の漏えいと同じ枠で扱われるのが基本のようです。

判断に迷う場面では、事務所だけで決め切らず、個人情報保護委員会の相談ダイヤルや、顧問弁護士・有資格者の方に確認できる経路を、平時から認識しておく事務所もあります。

関与先への説明文の骨子

関与先への説明は、避けたくなる工程です。一方で、こちらから先に伝えるか、相手の方が別の経路で知るかで、信頼の動き方が変わってくることもあります。骨子としては、以下の要素を入れておくと、過不足が出にくくなります。

  • 何が起きたか ( 事実 ): いつ、どの情報が、どのサービスに送信された可能性があるか
  • 何をしたか ( 初動 ): 気付いた時点で何を止め、何を保全したか
  • 影響範囲 ( 評価 ): 現時点で確認できている影響と、確認中の事項
  • 今後の対応 ( コミット ): 再発を抑える運用、関係機関への報告状況、追加情報の連絡方針
  • 連絡先 ( 窓口 ): 問い合わせの窓口 ( 事務所内の担当者の方 )

「分かっていないこと」を「分かっていない」と書いておくと、後から訂正する場面が減ります。確定していない情報を確定したように書いてしまうと、後で訂正の連絡が必要になり、二次的な信頼の動きが出ることがあります。文面は長く詳細に書くほど誠実に伝わるとは限らないので、A4 1枚で要点を整理する関与先の経営層に渡しやすい、という形を取る事務所もあります。

事務所内のナレッジに残しておく

対応が一段落したら、ナレッジ化の工程に入ります。やることはあまり多くありません。

  • 事案サマリ ( A4 1〜2枚 ): 日時、関与した職員の方 ( 匿名可 ) 、何が起きたか、初動、最終影響、再発防止策
  • チェックリストの更新: 今回の場面から見えてきた「今後やらない / 必ずやる」項目を、事務所のチェックリストに追記する
  • 共有会: 15〜30分で全職員の方に共有する。同じ立場に立ったらどう動くかを考えてもらう趣旨で行う

ナレッジ化の場面では、「誰が悪かったか」ではなく「何が足りなかったか」で書き残しておく事務所もあります。前者で書くと、次の報告が出てきにくくなることがあります。

職員の方にとっても、「自分が報告した事案が、事務所のルール改善につながった」という経験は、長く効いてきます。1〜2年単位で見たとき、報告が出てきやすい組織と出てきにくい組織では、平時の対応力に差が出てきます。

セキュリティ・コンプラ観点で並ぶ論点

セキュリティとコンプラの観点でも、AIに関わる事案対応の流れを整えておきたい場面があります。

  • 守秘義務: 弁護士法・税理士法・社労士法など、士業にはそれぞれ守秘義務が法定されています。AI経由の漏えいも、守秘義務との関係で見られる場面があります
  • 損害賠償: 関与先データの漏えいが起きた場合、関与先からの損害賠償請求につながる場面があります。賠償責任保険の補償範囲に、AI経由の事案が含まれるかどうか、契約内容を見ておく事務所もあります
  • 業法上の処分: 所属士業会・登録機関への報告・処分のルートがあります。事務所内対応と並行して、士業会への確認経路を認識しておく事務所もあります
  • 電子帳簿保存法・インボイス制度関連の証憑: AI出力をそのまま証憑として扱うかどうかは、原本性・改ざん検知の論点があるため、丁寧に判断する場面があります

セキュリティだけの話ではなく、法的責任・契約責任・業法上の責任が並んで動くのが士業の特徴です。流れを作るときに、こうした並びを意識しておくと、後から想定外の論点が出てきにくくなります。

総務省・経済産業省が公表している「AI事業者ガイドライン」（現行Ver1.2、2026年3月31日公表、初版2024年4月19日公表）では、AI提供者・利用者の責務として、安全性・公平性・透明性・アカウンタビリティ等の原則が示されています ( 総務省・経済産業省 )。事務所として業務にAIを組み込んでいく場面では、こうした原則と事務所の運用の整合を、折々に見ておきたい場面があります。

平時のうちに決めておけること

AIに関わる事案対応の難しさは、事案が起きてから流れを考え始めると間に合いにくい点にあります。検知の窓口、封じ込めの手順、通知先と期限、原因究明の進め方、再発の抑え方を、平時のうちに紙1〜2枚で書いておくこと自体が、事案対応の中身に入ってくることがあります。

完璧な流れを作ろうとして手が止まるよりも、叩き台を1回作って、1回振り返るサイクルを回している事務所もあります。事務所として「埋めていない項目がある」という事実を共有できていること自体が、最初の一歩になります。年に1回でも、事務所内で30分の机上訓練 ( 「今この瞬間にAI経由の漏えいが発覚したら、誰が何をするか」を会話で追う形 ) を回しておく事務所もあって、初動の認識のずれを事前に見つけやすくなります。

本記事は士業実務における一般的な論点の整理であり、個別事案の適法性判断・報告義務該当性の確定判断ではありません。個人情報保護法令上の漏えい等報告のルール・各士業法の守秘義務などに触れていますが、実際の事案対応では、所属士業会の最新指針・顧問弁護士の見解・個人情報保護委員会の最新公表資料・e-Gov法令検索 等で、最新の法令テキストをご確認のうえ個別にご判断ください。

参考

Author · 著者

士業AI

Tags · タグ

AI 導入の論点を相談する

業務課題を 60 分で整理することから始められます。

お問い合わせ
ブログ一覧
Related · 関連記事

この記事を読んだ方は、次の記事も読まれています