生成AIの架空判例：弁護士のための6段階チェック

日本の裁判所が、生成AIの作った架空の判例を問題にした事例は、世界の事例データベース(2026年11月5日時点で2,266件)にまだ載っていません。だからといって、日本の弁護士が安全というわけではありません。日弁連は2026年9月1日の会長談話で、民事訴訟への生成AI導入について、ハルシネーション(存在しない判例・法令・事実の生成)を完全には排除できないリスクに挙げ、弁護士は訴訟代理人として不適切な出力に適時に対応できる立場にあるとしました。弁護士の書面の引用確認を直接定めたものではありません。

日本の判例引用は「最判平成○年○月○日民集○巻○号○頁」のように形式が決まっています。形式が決まっているぶん、それらしい番号や掲載箇所を並べるのは生成AIにとって難しくありません。そして、準備書面にそのまま載せてしまえば、署名した弁護士の責任になります。

世界ではすでに、同じ失敗の例が積み上がっています。前述のデータベース(研究者Damien Charlotin氏が公開)には、裁判所が書面にハルシネーションによる内容があったと認定した、または推認した決定が2,266件あり、そのうち898件では、当事者が弁護士でした。2025年7月初めには160件超でした。このガイドは、生成AIを使っていて(使う人は増えています)、このデータベースに名前が載りたくない弁護士のために書きました。ベンダーのチェックリストではなく、8か国の裁判所や弁護士会が実際に述べたことを土台にしています。下の6段階のチェックは、引用1件あたり数分で済みます。省略した結果、他の国では罰金、弁護士会への送付、282,508ディルハムの「無駄になった費用」(wasted costs)の負担命令、そしてトルコで報じられた事案では検察と弁護士会の双方による調査にまで至っています。

要点

• 署名した弁護士が、書面中のすべての引用に責任を負います。 下書きをどのツールが書いたかは関係ありません。英国、アラブ首長国連邦、スペインの裁判所がはっきりそう述べています。
• 偽の引用の大半は、単なる創作です。 弁護士が関わる898件のうち、8割で出典が創作され、半数近くで実在する出典の内容が誤って説明され、3分の1で引用文が出典に存在しませんでした。1件の決定が複数のラベルを持つことがあります。
• 法務特化のAIツールは汎用チャットボットより正確ですが、誤りがないわけではありません。 2024年のスタンフォードの研究(弱点を突くよう設計した200件超の質問)では、Lexis+ AI、Ask Practical Law AI、WestlawのAI-Assisted Researchのいずれも、17%から33%の割合でハルシネーションを起こしました。製品はその後変わりましたが、原則は変わりません。
• 速さと率直さは助けになりますが、何も保証しません。 すぐに謝罪したスペインの弁護士は罰金を免れました。英国では、誤りを認めて自ら規制当局に報告した事務弁護士(ソリシター)も付託され、偽の判例5件を「体裁上の誤り」と説明した弁護士たちは、本来なら衝撃を受けるはずだと裁判官に指摘されました。
• 確認は6つで足ります。 実在するか、一致するか、引用文は本物か、主張を裏付けるか、いまも現行か、そして記録を残したか。

引用が間違う5つのパターン

「架空判例」は見出しになりやすいのですが、5つある失敗の1つにすぎず、ほかは見つけにくいものです。データベースは、裁判所が認めた誤りの種類ごとに各決定へラベルを付けており、1件の決定が複数のラベルを持つことがあります。

最後の行は、データベースでは最も少なく、私たちの見るところ、最も過小に数えられています。裁判官は、存在しない判例にはすぐ気づいても、去年変更された判例にはなかなか気づかないからです。

なぜ言語モデルはこうしたものを作るのでしょうか。モデルは「もっともらしい次の言葉」を書きます。そして引用は、当事者名、裁判所、年、番号と、余地のとても少ない型です。法律データベースに接続していない、あるいは接続していても何も取得できなければ、モデルはその型を自分で完成させてしまいます。後述するドイツの事案では、裁判所は、別の注釈書に結びつけられた執筆者、存在しない段落番号、見つからなかった単行本を指摘しました。決定を読んだ現地の実務家は、データベースにつながっていないツールと不十分なプロンプトを疑いました。実際にデータベースから取得するツールは誤りが減りますが、誤りの形が変わります。出典は実在するのに、内容が正しく説明されていない、という形です。そして、同じチャットボットに「この引用は実在しますか」と聞くのはやめてください。ニューヨークの弁護士は聞きました。答えは「実在します」でした。

6段階のチェック

裁判所に提出するもの、依頼者への意見として送るものは、すべての引用について6つを全部行ってください。社内の検討メモなら、何かに頼る前に少なくとも1と2は行ってください。勝てる法的主張の組み立て方についての記事で述べた引用規律は、同じ考え方を書く側から見たものです。

1. 実在

引用は、題名ではなく識別情報(裁判所・裁判年月日・事件番号)で、裁判所のデータベースか商用データベースから探します。題名検索では、似た名前の別の事件が出てきて、そこで安心してしまうことがあります。論文や注釈書も同じです。ケルンの事案で創作されていたのは、まさにそうした文献の引用でした。AIに自分自身を確認させないでください。日本の裁判例は、裁判所ウェブサイトの裁判例検索に載らないものも多いので、見つからないときは判例集や商用データベース(判例秘書、TKC LEX/DB、D1-Law.com、Westlaw Japanなど)で確認します。それでも出典が確認できない裁判例は、引用しないでください。

2. 一致

裁判所、裁判年月日、事件番号、当事者、掲載誌(民集、判時、判タなど)が、自分が引用したものと一致しているかを確認します。この確認は、後述するアンカラの弁護士にも役立ったはずです。報道によると、その弁護士が引用した破毀院(Yargıtay)の判断は、書かれたとおりには見つかりませんでした。

3. 引用文

かぎ括弧の中の文言は、すべて原文に一字一句そのまま載っていなければなりません。文書を開いて、その文を検索してください。弁護士が関わる898件のうち298件(全体では602件)は偽の引用文に関するもので、「裁判官が言いそうな文」は、モデルがもっとも得意とするものです。

4. 裏付け

要旨や見出しだけでなく、該当箇所を読みます。裁判所は、あなたが言うとおりの論点を、似た事実関係のもとで、判断の理由として述べているでしょうか。傍論の一言ではないでしょうか。実在する出典の内容を誤って説明するのは、まったくの創作に次いで、データベースで2番目に多い失敗です(弁護士が関わる898件のうち419件)。

5. 有効性

いまも通用するでしょうか。その後の上訴、取消し、判例変更を調べ、条文は問題となる時点で施行されていた条文を確認します。e-Gov法令検索で現行の条文と改正の履歴を確認し、判例の流れは商用データベースで追います(下の一覧を参照)。

6. 記録

引用1件につき1行、「誰が、どこで、いつ確認したか」を残します。手間はほとんどかからず、裁判官や弁護士会に尋ねられたときの、いちばんの証拠になります。スペインの弁護士会(CGAE)の2026年の通達も、同じ追跡可能性を強調しています。

裁判所は実際に何をしたか

各行は、裁判所の広報、法律専門紙、または法律事務所が公開した分析に基づいており、すべて末尾にリンクを付けています。金額は出典が報じたものです。

これらの事案には3つの共通点があります。1つめは、結果が裁判所によって異なり、行いがよくても何も保証されないことです。英国の合議法廷は、弁護士が偽の引用を提出した場合、AIの有無を問わず規制当局への付託が適切となる可能性が高いとし、誤りを認めて自ら報告した事務弁護士も付託しました。スペインでは、民事訴訟法(LEC)247条4項が、行為が弁護士に帰せられ得るときは裁判所が弁護士会に通知するよう定めています。フランスとドイツでは、私たちが見つけた決定は弁護士に注意を与えただけでした。2つめは、裁判所に裁量がある場面では、速さと率直さが効くことです。ナバラは、弁護士がすぐに、書面で2度謝罪したため、制裁手続を閉じました。3つめは、事務所の責任者も見られていることです。英国の合議法廷は、今後は、事務所の責任者が、AIを使うときの義務を全員が理解するようにしていたかを尋ねる、と述べ、例外的な場合を除き、戒告だけでは足りないだろうとも付け加えました。

数字で見る事例

このデータベースは、裁判所がハルシネーションによる内容を扱った決定を数えており、大半は、裁判所がAIの利用を推認したにとどまります(データベースはツールを「Implied」と記しています)。偽の引用のすべてを数えられるわけではないので、実際の数はもっと多く、2025年以降の増加の一部は、追跡の精度が上がったことによるものです。それでも方向は明らかです。2025年7月に160件超、2026年11月に2,266件。

ポーランドとアルゼンチンが各10件、スペインが8件と続きます。UAEは2件、カタールは1件で、トルコと日本はありません。データベースは40を超える法域を載せており、同じ決定が二重に載っているものもあります(ドイツの11件は8つの決定です)。「アメリカの問題」と読む前に、2点だけ。米国の裁判所は、はるかに多くの決定を公開し、より注意深く観察されていること。そして一覧にはトルコの記録がありませんが、トルコでは2026年6月に調査が報じられていることです。

誰がツールに頼ったのでしょうか。代理人のいない当事者が1,305件、弁護士が898件、裁判官が33件、専門家(鑑定人など)が17件です。後の2つの数字は実務上の意味があります。相手方の引用、専門家の報告書、そして頼ろうとするあらゆる裁判例にも、同じ6段階を当ててください。

事務所の生成AI方針を1ページで

各国の弁護士会は、同じ短いリストに収れんしつつあり、小さな事務所なら午後のうちに書けます。

1. 署名者が責任を負う。 書面のすべての引用に責任を負う弁護士を決めておきます。誰が、あるいは何が下書きを書いたかは問いません。裁判所はすでにそう扱っています。
2. 承認したツールだけを使う。 依頼者の案件に使ってよいツールを一覧にします。個人アカウントやブラウザ拡張は対象外です。判断基準は、データがどこで処理されるか、モデルの学習に使われるか、契約に何と書いてあるかです。秘密保持は弁護士職務基本規程23条の問題でもあり、個人情報保護法にも注意が必要です。詳しくは機密性と依頼者データに関する記事をご覧ください。
3. プロンプトに氏名を入れない。 そのツールが承認されていない限り、識別情報は初期設定で取り除きます。
4. 事務所を出る前に確認する。 裁判所に提出するもの、意見として送るもののすべての引用に6段階を行い、期限、請求額、審級など、自分で決めたリスクの線を超える書面は、別の人が再確認します。
5. 規則が求める場面では伝える。 AIの利用の申告を求める裁判所はあります(カナダ連邦裁判所は求めており、2026年11月の決定は申告しなかった当事者を批判しました)が、多くは求めていません。自分が出廷する裁判所の規則を1枚の表にしておき、委任契約書で、AIをどう使うかを依頼者に伝えてください。
6. 教育と監督。 若手弁護士、事務職員、依頼者本人も、すでにこれらのツールを使っています。30分の研修と、記録の点検での決まった質問(どのツールで、どのプロンプトで、どの出典か)は、ほとんど費用がかかりません。
7. 記録を残す。 書面ごとに、ツール、日付、確認結果を記録します。

ご自身の弁護士会が出したもの(私たちが確認できた範囲)は次のとおりです。日本では、民事訴訟への生成AI導入に関する日弁連会長談話(2026年9月1日)と弁護士職務基本規程。日弁連が会員向けに出した、書面の引用確認に特化した指針は、2026年11月8日時点では確認できませんでした。米国ではアメリカ法曹協会(ABA)の正式意見512(2024年7月29日)。フランスでは全国弁護士会(CNB)の実務ガイド(2024年)と、倫理とAIに関するガイド(2026年3月)。ドイツでは連邦弁護士会(BRAK)の2024年12月の指針。スペインでは弁護士会総評議会(CGAE)の通達3/2026(2026年4月)。ブラジルではブラジル弁護士会(OAB)の2024年11月11日の勧告。トルコでは弁護士会連合(TBB)の2026年8月のガイド。UAEでは司法省の弁護士事務所向けの10の指導原則(2026年9月)。AIを禁じるものはありません。すべてが条件を付けています。

誤った引用がすでに書面に入っていたら

速さが大切で、手順の順序も大切です。

1. 手を止めて、書面全体を確認し直します。 裁判官が見つけた引用だけではありません。データベースの決定には、複数の引用が絡むものが多くあります。
2. まだ提出も送達もしていなければ、いますぐ直します。 スペインの通達は、期限内の訂正は違反の完成を防ぎ得る、としています。
3. 提出済みなら、自分から裁判所に伝えます。 書面で、率直に。何が誤りで、何をしたか。ナバラでは、すぐの謝罪が制裁手続を終わらせました。ロンドンでは、誤りを認めて自ら報告した事務弁護士も裁判所によって付託され、偽の判例5件を「体裁上の誤り」と片付けた弁護士たちは、本来なら衝撃を受けるはずだと裁判官に指摘されました。
4. 依頼者と、弁護士賠償責任保険の保険会社に連絡します。 ほかから伝わる前に。
5. 所属弁護士会が報告を求めているか確認します。 ロンドンの裁判官は、弁護士は自ら報告すべきだったと述べました。
6. 経緯を書き残し、手順を変えます。 裁判所も弁護士会も、何を変えたかを尋ねます。

日本で確認できる場所

• 判例: 裁判所ウェブサイトの裁判例検索。掲載されていない裁判例も多いので、判例集(民集、刑集、判時、判タなど)と商用データベース(判例秘書、TKC LEX/DB、D1-Law.com、Westlaw Japan)で補います。
• 法令: e-Gov法令検索で現行の条文と改正履歴を確認します。
• 欧州: EUR-Lex(EU法とEU司法裁判所)、HUDOC(欧州人権裁判所)。
• 弁護士倫理: 日本弁護士連合会と、弁護士職務基本規程(5条の信義誠実、7条の研鑽、23条の秘密の保持、74条の裁判の公正と適正手続)。

複数の国や地域を同時に調べるときは、国境を越える法的リサーチのガイドも参考にしてください。

Lexvoraができること、できないこと

Lexvoraは、多くの法域の法的な質問に答え、リサーチを行ったときは見つけた出典を添えます。そのため、1と4の確認は、探し回らなければならない名前ではなく、開けるリンクから始められます。出典リンクは出発点であって、証明ではありません。Lexvoraはリサーチのツールであり、ほかのツールと同じく誤ることがあり、6つの確認はLexvoraの出力にも当てはまります。実際の質問でどう動くか試したいときは、無料でお試しいただけます。小規模な事務所には、個人弁護士と小規模事務所にAI法務ツールが必要な理由も役立ちます。

よくある質問

弁護士がChatGPTなどのAIを使うのは、倫理違反ですか。

確認した限りの指針は、どれも禁止していません。どれも条件を付けています。能力、秘密保持、監督、そして何より、裁判所や依頼者に届く前の確認です。

誤って偽の引用を提出してしまったら、どうなりますか。

上の事例は、注意から、5,000ドルの制裁金、スペインでの420〜1,800ユーロの罰金、ブラジルでの最低賃金5か月分、282,508ディルハムの「無駄になった費用」の負担、弁護士会や規制当局への付託までさまざまで、米国の連邦裁判所は1件で約11万ドルに達しました。故意かどうかは、結果によって効いたり効かなかったりします(法廷侮辱には認識が必要で、ドイツのBRAO 43a条3項も故意の虚偽を問題にしますが、費用負担命令には故意は要りません)。自分で決められるのは、訂正の速さと率直さです。

AIを使ったことを裁判所に伝える必要はありますか。

裁判所によります。申告を求めるところもあれば、求めないところも多くあります。出廷する裁判所の規則を表にしておいてください。確認はどこでも必要ですが、裁判所が申告を求める場面では、確認が申告の代わりにはなりません。

Lexis+ AIやWestlawのような法務AIも、ハルシネーションを起こしますか。

汎用チャットボットよりは少ないものの、起こします。スタンフォードの研究者は2024年に、これら3つのツールで17%から33%のハルシネーション率を確認しました。製品は変わるので、使っているものを、答えをすでに知っている質問で試してください。

6段階のチェックにはどれくらいかかりますか。

引用1件あたり数分を見込んでください。1と2は早く済み、3と4で読む作業が本当の仕事です。引用が20件ある書面なら、1分ではなく1時間を見てください。

裁判官や専門家もハルシネーションを起こすことはありますか。

データベースには、裁判官が関わった決定が33件、専門家が関わった決定が17件あります。頼るものはすべて、誰が作ったものであっても同じように扱ってください。

出典と日付

2026年11月8日に確認しました。報道が食い違う場合は、裁判所自身の文書に従いました。

• AI Hallucination Cases Database、Damien Charlotin、2026年11月5日更新、CC BY 4.0。弁護士が関わる件数などは、当社が彼の数字を組み替えて集計し、割合を計算したものです。2025年7月の件数はNext、2025年7月1日によります。
• Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools、Magesh氏ら(Stanford RegLabとHAI)、Journal of Empirical Legal Studies、2025年。
• 日本:日弁連会長談話(2026年9月1日。民事訴訟への生成AI導入と、法務省の弁護士法72条に関するガイドラインについて)。
• Ayinde v Haringey と Al-Haroun v Qatar National Bank、[2025] EWHC 1383 (Admin)(判決全文、英国国立公文書館)、Court issues stark warning to lawyers over AI-generated fake cases(Legal Futures)と、最初の判決を報じたLaw Gazetteの記事。
• AG Köln、312 F 130/25、beck-aktuell、2025年7月8日。
• フランスの裁判所におけるハルシネーション、Morgan Lewis、2026年3月。
• 米国とカナダ:オレゴン州の11万ドルの制裁についてのABA Journalと、カナダ連邦裁判所のAIに関するページ。
• スペイン:データベースのスペインの項目(ガリシアと、2月のカナリア諸島の事案)、TSJ Navarraの発表、TSJ Canarias、CGAEの通達。
• ブラジル:TSEの決定とOABの勧告。
• トルコ:アンカラの事案の報道、裁判所の決定についての弁護士の説明、TBBのガイド。
• UAE:ADGM判決の分析(Morgan Lewis)と司法省の原則。

---

この記事は情報提供のみを目的としており、法的助言ではありません。裁判所に提出する書面でのAI利用に関する規則は、裁判所ごとに異なり、急速に変わっています。ご自身に関係するものをご確認ください。最終レビュー:2026年11月8日。