結論: 弁護士業務の AI リサーチは「初動探索」までに留め、判例・学説の原典確認とシニアレビューを必ず通す。
米国では、AI が生成した架空判例の引用を含む準備書面を提出したことで弁護士に制裁が科された事例が報じられています。判例番号・当事者名・判旨要約まで体裁は整っていたものの、いずれも実在しないものでした。制裁理由としては、AI 生成内容を裏取りせずに提出した点や、指摘後の対応が遅れた点が指摘されたとされています。
この事例は、AI リサーチを語るうえで必ず引き合いに出されます。重要なのは「AI が悪い」のではなく、「AI 生成物を人間がレビュー・原典照合せずに公式書面に組み込んだこと」が制裁理由になっている点です。AI 出力を最終納品物に載せる責任は、弁護士本人にかかる構図は変わりません。
本稿では、日本の弁護士業務で AI リサーチを使う際に、この構図を回避するために整えておきたい論点を整理します。
AI リサーチが得意な領域と不得意な領域
生成 AI による判例リサーチは、ざっくり次の構図で整理できます。
- 得意: 論点整理、用語の言い換え、キーワード提案、争点の俯瞰、英文判例の和訳サマリ
- 不得意: 判例番号・事件番号・巻号の正確な特定、最新判例の網羅、判旨の正確な引用、審級の区別の保証
特に問題になるのは、もっともらしい体裁で実在しない判例を生成する現象(ハルシネーション)です。判例番号・事件名・判決日・判旨要約まで形式上は揃っているのに、判例検索データベースで引くと存在しない、というケースが報告されています。
実務的には、AI リサーチは「初動のキーワード探索・論点整理」までを役割範囲とし、判例の実在確認・引用は必ず人手で原典に当たる運用が現実解になりやすいと考えています。
危険な運用パターン
弁護士事務所の現場で点検価値が高い、避けたい運用パターンを並べておきます。
- AI が出した判例番号を準備書面にそのまま引用してしまうパターンには注意が必要です。判例検索データベースで原典を引かない限り、実在は確認できません
- AI が引用した学説・通達をそのまま脚注に転記してしまう運用も避けたいところです。学者名・論文タイトル・巻号がもっともらしく生成されているのに、実在しないケースが報告されています
- 依頼者から預かった事件記録を、無料 AI チャットに貼って要約させてしまう運用も避けたいところです。入力データの学習利用・海外サーバ保管・第三者提供該当性が曖昧なままになります
- AI 出力を担当者がそのまま納品物に組み込み、シニア弁護士のレビューを通さない運用も要注意です。海外の制裁事例でも、サインオフ前のレビュー工程が機能していなかった点が制裁理由として指摘されました
便利だから・みんなやっているから、で運用されているうちは、事故時に弁護士法上の懲戒・損害賠償・依頼者からの信頼喪失が同時に発生し得ます。
日本の弁護士業務で意識する論点
日本固有のレイヤーとして、次の論点を意識しておく必要があります。
弁護士の守秘義務との関係では、AI への入力がこの義務に抵触するかは、入力先 AI の契約・保管場所・学習利用の有無に依存します。確立した行政解釈・判例が公開されているわけではないため断言はできませんが、無料・個人プランで入力データが学習に使われる契約の場合、データは事務所外に流出していると評価される余地があります。法人プラン・API・DPA 締結であれば、学習に使わない契約・ログ・保管場所が明示されており、相対的にリスクは下がります。
依頼者との委任契約では、「リサーチや書面作成の補助に AI を利用する場合がある」旨を契約書・受任通知に明記しているかが、紛争時の説明責任に直結します。委任契約に AI 利用の可否が明記されていない場合、依頼者が想定していない第三者への情報提供と評価される余地があります。
個人情報保護法の観点では、依頼者・相手方・関係者の氏名・住所・病歴等が含まれる場合、要配慮個人情報・通常の個人情報の取り扱いが論点になります。利益相反については、同一の AI アカウントを事務所内で共有していると、案件ごとの情報分離が曖昧になり管理が難しくなるケースがあります。
「AI を使うかどうか」ではなく、「どの AI を、どの契約で、どこに保管され、誰がレビューする運用で使うか」を案件単位で設計する発想が必要だと考えています。
出典確認の運用フロー
AI リサーチで最低限通過させたい確認フローを並べておきます。順番に「NO」が出た時点で、AI 出力を納品物に組み込むのは止める判断が安全側になります。
- AI が引用した判例番号は判例検索データベースで実在するか(正規の判例検索データベースで確認します)
- 判例の判旨は AI 要約と一致しているか(判決全文に当たり、AI 要約と齟齬がないか照合します)
- 学説・通達の出典は原典で確認できるか(学者名・論文タイトル・巻号ページの実在と引用箇所の一致を確認します)
- AI 出力に依頼者情報の漏えいは無いか(入力した依頼者情報が生成内容に意図せず混ざっていないかを確認します)
- シニア弁護士・パートナーのレビューを経ているか(担当者・パラリーガルが使った場合、サインオフを必須にします)
このフローは、海外の制裁事例で「実行されていなかった項目」を裏返したものでもあります。
運用面で点検しておきたい論点
弁護士事務所として AI を業務に組み込む場合、最低限次の論点を整理しておきたいところです。
| 観点 | 確認内容 |
|---|---|
| アカウント管理 | 個人 ID／共有 ID の使い分け、退職時のオフボーディング、MFA の有無 |
| ログ管理 | 入力プロンプトの保存ポリシー、監査証跡、保存期間 |
| 権限管理 | 案件ごと・依頼者ごとのアクセス制御、利益相反のチェックポイント |
| データレジデンシー | 国内／海外サーバ、越境移転に係る同意、依頼者への説明 |
| インシデント対応 | 誤入力・漏えい時の依頼者報告フロー、所属会への報告基準 |
| 再委託管理 | AI ベンダーから第三者へのデータ移転の有無 |
個人情報保護委員会からは、生成 AI サービスの利用に関する注意喚起が公表されています。入力データの利用範囲・第三者提供該当性・学習データへの取り込みなどが論点として挙げられており、弁護士事務所も「個人情報取扱事業者」として、この注意喚起の射程に入ると考えられます。最新版は公式情報を確認してください。
視点の置きどころ
最後に、視点の置きどころを 2 つ整理しておきます。
ひとつは、AI リサーチを「人を置き換える道具」ではなく「初動の地ならしをする道具」として位置づける視点です。海外の制裁事例で問われたのは AI の精度ではなく、AI 出力をどのレビュー工程に乗せるかという制度設計でした。AI を導入する時点で、サインオフ者・原典照合担当・依頼者情報の入力可否を、文書化された運用フローに落とし込んでおく必要があります。
もうひとつは、依頼者との関係性をどう整えるかという視点です。委任契約・利用目的通知書面に AI 利用条項が無いまま依頼者情報を入力する運用は、紛争時に説明責任を果たしにくくなります。「AI を使うかどうか」を選ぶ段階の前に、依頼者と取り交わす書面の側に AI 利用条項を組み込むタイミングが来ていると整理しておきたい場面です。
注: 本記事は公開時点で公表されている一次情報に基づいています。以降に新たな制裁事例・指針が出ている場合は、別記事の追記セクションでフォローします。
参考
- 個人情報保護委員会「生成 AI サービスの利用に関する注意喚起等について」
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/ - 日本弁護士連合会(公式)
https://www.nichibenren.or.jp/ - 弁護士法(e-Gov 法令検索 / 弁護士法)
https://elaws.e-gov.go.jp/document?lawid=324AC0000000205
改正があり得るため最新版は公式サイトで確認してください - 個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン(通則編)」
https://www.ppc.go.jp/personalinfo/legal/guidelines_tsusoku/ - 経済産業省・総務省「AI 事業者ガイドライン」(公表版／本記事公開日時点の最新版は公式ページで確認してください)
https://www.meti.go.jp/policy/mono_info_service/geniac/ai_jigyousha_guideline.html