結論: シャドーAIは「禁止」より「情報機微度に応じた利用区分」と「相談窓口」の組み合わせで対処したほうが、現場の動きが止まりにくくなります。
海外の調査会社が 2023 年に公表した分析では、調査対象企業の従業員のうち約 8.6% が業務データを ChatGPT に貼り付けた経験があり、約 4.7% が機密データを入力した経験があるとされています。最も多かった機密データの種類は「内部限定データ」「ソースコード」「顧客データ」で、士業事務所に置き換えれば、所内メモ・関与先データ・申告書ドラフトが同じ位置に当たります。詳細は公式の調査レポートを確認のうえ、最新の数値をご参照ください。
同じ時期、海外の大手電機メーカーで従業員が ChatGPT にソースコードや社内会議情報を入力したとされる事案が複数報じられ、その後に社内での生成 AI 利用を厳しく制限したと伝えられています。これらの海外事例に共通するのは、入力した本人に悪意があったわけではない、という構造です。便利だったから、急ぎだったから、社内に手順がなかったから——そう動いた結果として、入力したデータを取り戻せない状態が生まれています。
日本の士業事務所でも、規模を問わず似た構造が観察されます。「うちの職員、AI なんて使っていないと思いますよ」と所長がおっしゃる事務所のブラウザ履歴を眺めると、ChatGPT や類似サービスへのアクセスが何件も並んでいる、というケースは少なくありません。本記事では、職員が管理者の知らないところで AI を使い始めてしまう状態——シャドーAI——について、士業事務所の実情に引きつけて整理していきます。
なぜ「禁止」では止まらないのか
シャドーAIが見つかったとき、最初に出てくる対応は「全面禁止」です。情報漏えいリスクを思えば、まず止めたい——という反応は自然ですが、過去の事例を見ると、禁止だけで現場が止まったとは言いがたい状況も観察されています。
海外電機メーカーの事案を構造で整理すると、「便利だから使った」「使い方の安全な手順がなかった」「気付いたら入力後だった」という、悪意のない事故パターンが見えてきます。事後に利用制限を強化したとされますが、それは事故の後付け対策であり、入力済みのデータが取り戻せたわけではありません。
日本でも、個人情報保護委員会が 2023 年 6 月 2 日付で「生成 AI サービスの利用に関する注意喚起等」を公表しており、事業者・行政機関・一般利用者それぞれに留意事項を示しています。事業者向けには、個人情報を含むプロンプトを入力する際の留意点や、機械学習への利用可否の確認などが挙げられています。最新の内容は公式情報を確認してください。
ここから読み取れるのは、「禁止」よりも「入力してよい情報・してはいけない情報の線引き」「使ってよいサービスの指定」「相談できる窓口の用意」を整える方向が、各国・各組織で主流になりつつあるという点です。所内で完全に禁止しても、職員は自宅 PC やスマホから使う、という回り道が起きます。それでは管理が及びません。
4 階層の利用区分で安全な道を作る
現場で機能しやすいのは、情報の機微度に応じた 4 階層の利用区分です。士業事務所であれば、次のような形が出発点になります。
| 区分 | 内容 | 例 |
|---|---|---|
| 自由利用 | 個人情報・関与先情報を含まない、公開情報ベースの作業 | 公開法令の要約、自分の学習用メモ整形、汎用的な文章校正 |
| 要注意 | 所内情報を含むが個人情報・関与先情報は含まない | 業務マニュアル下書き、所内研修資料の素案作り |
| 要承認 | 関与先情報・個人情報を含む可能性がある | 顧問先向け回答案、申告書周辺メモ、議事録要約 |
| 禁止 | 守秘義務に直結する情報、認証情報、ID・パスワード等 | 関与先の決算データ、マイナンバー、ログイン情報 |
押さえておきたいのは「禁止ゾーンを明確に切り、自由利用ゾーンを残す」という考え方です。全部禁止にすると、結局シャドーAIが温存されてしまいます。逆に、要承認・禁止ゾーンを言語化しないと、職員は何が NG か判断できません。
要承認ゾーンを動かすには、簡易な申請フォームがあると現実的です。一般的なフォーム作成ツール程度のもので構いません。盛り込みたい項目は以下のとおりです。
- 何のサービスを使いたいか（ChatGPT などの利用予定サービス名）
- どの業務に使うか（自由記述・1〜2 行）
- 入力予定の情報に個人情報・関与先情報が含まれるか（はい／いいえ／分からない）
- 出力をどう使うか（所内参考のみ／関与先提出物の下書きに使う／その他）
- 利用期間（単発／継続）
「分からない」を選択肢に入れておくのが要点です。職員が判断に迷ったときに、迷ったまま放置されるのが一番リスクが残ります。「分からない」が来たら所として相談に乗る、という運用にすると、現場の信頼を損なわずに把握できるようになります。
「要承認ゾーンは誰に相談するか」を所内で 1 人決めておくと、相談しやすさが大きく変わります。
職員教育で伝える 5 点
ルールを配って終わりにすると、ほぼ読まれない、というのが一般的に指摘されています。15〜30 分程度で良いので、以下を口頭で共有する場を設けたいところです。
- 入力情報が学習に使われる可能性があるサービスとそうでないサービスがあるということ
- 個人情報・守秘義務の対象となる情報を貼り付けると、取り戻すことは難しいということ
- 「迷ったら相談」が一番安全で、相談したことを責めない方針であること
- 業務 PC からの利用と、私物 PC・スマホからの利用は同じくらい点検価値があること
- AI の出力は必ず人がレビューする前提であること（特に法令・税務の判断は要確認）
「責めない」を明示するのが地味に効くと言われています。隠す動機を減らすのが、シャドーAI対策の根幹だからです。教育の場で「これまで個人アカウントで業務利用していた人は、責任を問わずに移行期間で整理する」という方針を併せて示すと、現状の把握が一気に進む事例もあります。
教訓
ここまでの整理から、士業事務所が押さえておくべき教訓を 4 点に集約しておきたい場面です。
- **シャドーAIは「職員の問題」ではなく「所として安全な道を示せていないサイン」**として読み替えます。禁止一辺倒では現場が見えなくなるだけで、入力は止まりません
- **「使っていない」のではなく「使っていることが見えていない」**だけ、という前提で実態調査から始めます。所員アンケート・ブラウザ履歴の傾向確認・クレジットカード明細の照合などで、最初の地図を作ります
- 禁止ゾーンを明確に切ったうえで、自由利用ゾーンを残します。全面禁止は「見えなくする」効果しかなく、所として制御できる範囲をかえって狭めてしまいます
- 相談窓口は「責めない」を明示してはじめて機能します。隠す動機を減らさない限り、職員は所長にではなく検索エンジンに相談してしまいます
職員が無断で AI に触れている状態は、所として安全な道を示せていないサインとも読めます。地図と道を先に作り、相談窓口を置き、責めない空気を整える。この組み合わせが、士業事務所におけるシャドーAI対策の現実解になります。
参考
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023-06-02）: https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
- 経済産業省・総務省「AI事業者ガイドライン（第1.0版）」（2024-04-19）: https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html
- Dark Reading「Samsung Engineers Feed Sensitive Data to ChatGPT, Sparking Workplace AI Warnings」（2023）: https://www.darkreading.com/vulnerabilities-threats/samsung-engineers-sensitive-data-chatgpt-warnings-ai-use-workplace
- Cyberhaven「11% of data employees paste into ChatGPT is confidential」（2023-02-28）: https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt