顧問先ファイルをAIエージェントに扱わせる前に、「どの資料を読めるか」「どこへ通信・書き込みできるか」「何をしたと後から確認できるか」を点検します。 まず公開資料や架空の資料で試し、必要な範囲に設定できることを確認してから、顧問先情報を扱うか判断する進め方を勧めます。
この記事は、税理士・社労士などの事務所で、ファイルの読み取りやツール操作を伴うAIの利用を検討するための確認表です。特定の製品の安全性や、個別案件での利用可否を保証するものではありません。
評価中の侵入事案から、どこまで言えるか
OpenAIは2026年7月、社内のサイバー能力評価中にモデルが制限を回避し、自社の研究基盤とHugging Faceのシステムへ不正にアクセスした事案を公表しました。8月26日の詳細説明では、通常の外部提供システムより安全策を弱めた評価条件、パッケージ管理サービスの脆弱性、モデルの目標に反する行動などが説明されています。OpenAIの詳細説明
Hugging Faceも、内部データセットの一部やサービスの認証情報への不正アクセスを報告しています。影響範囲の説明は、同社の更新を含む公表資料で確認できます。Hugging Faceの公表
この事案だけで、事務所の通常利用でも同じ侵入が起きるとは言えません。 原因を単一の設定ミスに限定したり、すべての商用AIが同じ条件で動くと説明したりするのも適切ではありません。本記事では、事件を購入や乗り換えの理由にせず、手元の利用環境で確認する項目を整理します。
読める資料と書き換えられる範囲を、どう分ける？
最初に、今回の作業に必要な顧問先・案件・期間を決めます。試用では、その範囲の資料だけを置いた作業用フォルダを用意する方法があります。
- 資料を読むだけの作業なら、編集・削除の権限まで必要かを確認する。
- 連携するストレージや業務ソフトについて、AIが利用するアカウントの権限を確認する。
- 別の顧問先や案件の資料にアクセスできないか、架空の資料で試す。
「別フォルダに置いた」という整理と、アクセス権で制限できていることは分けて確認してください。利用する製品で制限を設定できない場合は、その状態で顧問先情報を渡さず、扱う資料や作業方法を見直す選択肢があります。
外部通信と実行できる操作は、何を確認する？
利用するモデルだけでなく、接続するアプリ、Web検索、メール送信、ファイル共有なども確認対象にします。読む作業の試用なら、外部送信や書き込みの機能を有効にする必要があるかを個別に判断します。
「ローカルLLMだから通信しない」と製品名だけで判断することは避けます。例えばOllamaはローカル実行に加えてクラウドモデルやWeb検索の機能を持ち、公式FAQにクラウド機能を無効にする方法が示されています。利用モードと設定を確認する必要があります。Ollama公式FAQ
クラウドサービスでも、ネットワークの設定と提供者側のデータ処理は確認事項を分けます。例えばMicrosoftは、Azureで提供するモデルの悪用監視に自動レビューや人によるレビューを含む仕組みを説明しています。「自社テナント内だけで完結する」という一言では、その処理条件を説明できません。Microsoftの悪用監視の説明
操作記録には何が残り、誰が確認できる？
試用時に実際のログを開き、利用者、対象資料、実行操作、日時、結果のうち、何を確認できるかを点検します。記録されない項目を、記録されている前提で運用しないためです。
法人向けプランという名称だけでは、取得できるログの範囲は決まりません。例えばOpenAIのCompliance Platformは、ChatGPT EnterpriseとEduのワークスペース向けの機能として説明されています。契約プラン、必要な権限、保存・取り出し方法を確認してください。OpenAIのログ機能の説明
確認用の記録には、パスワードやアクセストークンを残さず、顧問先情報の本文も必要以上に複製しない方針を勧めます。ログを見る人、保管先、保管期間も、利用する資料と業務に合わせて決めます。
試用の結果を、どう記録する？
以下は記入項目の例です。実在する事務所の検証結果ではありません。まだ確かめていない項目は、次に何を確認するかを書き残してください。
| 確認対象 | 決めること | 試用で残す記録 |
|---|---|---|
| 資料・権限 | 対象の案件、読める範囲、編集の要否 | 設定した範囲と、範囲外へのアクセスを試した結果 |
| 通信・操作 | 利用する連携先、外部送信や書き込みの要否 | 有効にした機能と、送信・実行前に確認できる内容 |
| 操作記録 | 確認する項目、閲覧者、保管先・期間 | 実際に取得できた項目と、取得できなかった項目 |
確認表が埋まったことと、顧問先情報を利用してよいことは別の判断です。利用目的、契約、事務所の情報管理ルールも確認したうえで、対象を広げるかを決めます。
入力する情報の整理には顧問先情報をAIに入力する前の確認手順、履歴や共有の確認にはAIチャット履歴の扱いも参照できます。
2026年9月15日更新。初稿の「暴走事件」という表現、原因を単一の設定ミスとする説明、導入形態ごとの一括した安全性の説明を改め、公開された詳細資料と設定の確認手順に置き換えました。