KI-Halluzinationen im Schriftsatz: Prüfprotokoll für Anwälte

Ein Autor, der einem Kommentar zugeschrieben wird, den er gar nicht herausgibt. Eine Randnummer, die es nicht gibt. Eine Monografie, die das Gericht nicht finden konnte. So beschrieb das Amtsgericht Köln am 2. Juli 2025 die Belege in einem Schriftsatz in einer Sorgerechtssache und stufte ihn als unbrauchbar und irreführend ein. Der Anwalt hatte offenbar einen KI-Text ungeprüft übernommen.

Köln ist längst kein Einzelfall mehr. Die öffentliche Datenbank des Forschers Damien Charlotin verzeichnete am 5. November 2026 weltweit 2.266 Gerichtsentscheidungen, in denen ein Gericht festgestellt oder angenommen hat, dass sich ein Schriftsatz auf halluzinierte Inhalte stützte. In 898 davon war die Partei ein Rechtsanwalt, nicht ein Laie. Anfang Juli 2025 standen dort mehr als 160 Fälle; aus Deutschland sind heute elf Einträge erfasst, die acht verschiedene Entscheidungen betreffen.

Dieser Beitrag richtet sich an Anwältinnen und Anwälte, die KI nutzen (viele tun es längst) und nicht in dieser Datenbank auftauchen wollen. Er stützt sich auf das, was Gerichte und Kammern in acht Ländern tatsächlich gesagt haben, nicht auf Anbieter-Checklisten. Das Prüfprotokoll unten kostet pro Fundstelle wenige Minuten. Wer es auslässt, riskiert, was anderswo schon passiert ist: Geldbußen, Meldung an die Kammer, die Auferlegung nutzlos entstandener Kosten („wasted costs“) von 282.508 Dirham und, in einem berichteten Fall in der Türkei, Ermittlungen von Staatsanwaltschaft und Anwaltskammer zugleich.

Kurz gesagt

• Wer unterschreibt, verantwortet jede Fundstelle im Schriftsatz, gleich welches Werkzeug ihn entworfen hat. Gerichte in Großbritannien, den Emiraten und Spanien haben das unmissverständlich gesagt.
• Die meisten falschen Belege sind schlicht erfunden. In den 898 Entscheidungen mit einem Anwalt war in 8 von 10 eine Quelle erfunden, in fast der Hälfte eine echte Quelle falsch wiedergegeben und in einem Drittel ein Zitat nicht in der Quelle zu finden. Eine Entscheidung kann mehrere dieser Merkmale tragen.
• Juristische KI-Werkzeuge sind besser als allgemeine Chatbots, aber nicht fehlerfrei. In einer Stanford-Studie von 2024 mit mehr als 200 gezielt schwierigen Anfragen gaben Lexis+ AI, Ask Practical Law AI und Westlaw AI-Assisted Research in 17 bis 33 % der Fälle halluzinierte Antworten. Die Produkte haben sich seither verändert, das Prinzip nicht.
• Tempo und Offenheit helfen, garantieren aber nichts. Eine spanische Anwältin, die sich sofort entschuldigte, kam ohne Geldbuße davon. In England wurde ein Solicitor, der den Fehler einräumte und sich selbst meldete, trotzdem an seine Aufsichtsbehörde verwiesen, und Anwälten, die fünf erfundene Entscheidungen als „kosmetische Fehler“ abtaten, hielt der Richter entgegen, sie hätten bestürzt sein müssen.
• Sechs Prüfschritte genügen: Gibt es die Fundstelle, stimmt sie, steht das Zitat so da, trägt sie die Aussage, gilt sie noch, und ist die Prüfung dokumentiert?

Fünf Arten, wie ein Beleg falsch sein kann

„Erfundenes Urteil“ ist die Schlagzeile, aber nur eine von fünf Fehlerarten, und die übrigen fallen schwerer auf. Die Datenbank ordnet jede Entscheidung nach der Art des Fehlers, den das Gericht festgestellt hat, wobei eine Entscheidung mehrere Merkmale tragen kann.

Die letzte Zeile ist die seltenste in der Datenbank und nach unserem Eindruck die am schlechtesten erfasste. Ein Gericht bemerkt ein Urteil, das es nicht gibt, lange bevor es eines bemerkt, das im Frühjahr aufgehoben wurde.

Warum erzeugt ein Sprachmodell so etwas? Es schreibt die wahrscheinlichsten nächsten Wörter, und eine Fundstelle ist ein Muster mit wenig Spielraum: Parteien, Gericht, Jahr, Nummer. Hat das Werkzeug keinen Zugriff auf eine juristische Datenbank oder findet dort nichts, vervollständigt es das Muster. Im Kölner Fall fand das Gericht einen Autor, der dem falschen Kommentar zugeordnet war, eine Randnummer, die nicht existiert, und eine Monografie, die nicht aufzufinden war. Ein Praktiker, der den Beschluss las, vermutete ein Werkzeug ohne Datenbankzugriff und einen schwachen Prompt. Werkzeuge, die tatsächlich aus einer Datenbank abrufen, machen weniger Fehler, aber der Fehler wechselt die Form: eine echte Quelle, falsch wiedergegeben. Und fragen Sie nie denselben Chatbot, ob seine Fundstellen echt sind. Der New Yorker Anwalt tat es, und die Antwort lautete ja.

Die sechs Prüfschritte

Führen Sie alle sechs bei jeder Fundstelle durch, die in einen Schriftsatz oder in ein Mandantengutachten wandert. Für interne Vorüberlegungen sind die Schritte 1 und 2 das Minimum, bevor Sie sich auf irgendetwas verlassen. Die Zitierdisziplin, die wir in unserem Beitrag über überzeugende Rechtsargumentation beschreiben, ist dieselbe Idee von der Schreibseite aus.

1. Existenz

Suchen Sie die Fundstelle über ihre Eckdaten (Gericht, Datum, Aktenzeichen), nicht über den Titel, in der Datenbank des Gerichts oder einer kommerziellen. Eine Titelsuche liefert gern ein anderes Verfahren mit ähnlichem Namen und verleitet zum Aufhören. Das gilt auch für Literatur: In Köln waren gerade die Kommentar- und Zeitschriftenbelege erfunden. Lassen Sie die KI nicht sich selbst bestätigen.

2. Abgleich

Stimmen Gericht, Datum, Aktenzeichen, Parteien und Fundstelle mit dem überein, was Sie zitiert haben? Dieser Schritt hätte dem Ankaraner Kollegen geholfen, der weiter unten vorkommt: Seine Yargıtay-Belege waren laut Presseberichten nicht wie angegeben auffindbar.

3. Zitat

Jedes wörtliche Zitat muss sich im Original finden. Öffnen Sie das Dokument und suchen Sie die Wendung. 298 der 898 Entscheidungen mit Anwaltsbeteiligung betreffen falsche Zitate (602 über alle Parteien), und ein Satz, der nach Richter klingt, ist genau das, was ein Modell gut hervorbringt.

4. Tragfähigkeit

Lesen Sie die Passage, nicht nur Leitsatz oder Zusammenfassung. Entscheidet das Gericht den Punkt, den Sie ihm zuschreiben, bei vergleichbarem Sachverhalt und tragend, nicht nur beiläufig? Eine echte, aber falsch wiedergegebene Quelle ist nach der reinen Erfindung die zweithäufigste Fehlerart (419 der 898 Entscheidungen mit Anwaltsbeteiligung).

5. Stand

Gilt das noch? Suchen Sie nach späteren Rechtsmittelentscheidungen, Aufhebungen und Rechtsprechungsänderungen und prüfen Sie bei Normen die Fassung, die zum maßgeblichen Zeitpunkt galt. Die kommerziellen Datenbanken zeigen Folgeentscheidungen, die amtlichen Gesetzestexte die Änderungshistorie (siehe die Liste weiter unten).

6. Dokumentation

Eine Zeile pro Fundstelle: wer hat sie wo und wann geprüft? Das kostet fast nichts und ist Ihr bester Beleg, falls Gericht oder Kammer nachfragen. Der spanische Anwaltsrat betont in seinem Rundschreiben von 2026 dieselbe Nachvollziehbarkeit.

Was Gerichte tatsächlich getan haben

Jede Zeile stammt aus der Pressestelle eines Gerichts, aus Fachpresse oder aus der veröffentlichten Analyse einer Kanzlei, alles am Ende verlinkt. Beträge sind die, die die Quellen nennen.

Drei Muster ziehen sich durch diese Fälle. Erstens unterscheiden sich die Folgen je nach Gericht, und gutes Verhalten ist keine Garantie. Der britische Divisional Court hält fest, dass bei falschen Zitaten, mit oder ohne KI, in der Regel die Meldung an die Aufsichtsbehörde angezeigt ist, und er meldete auch einen Solicitor, der den Fehler eingeräumt und sich selbst gemeldet hatte. In Spanien verpflichtet Art. 247 Abs. 4 der Zivilprozessordnung (LEC) das Gericht, die Anwaltskammer zu informieren, wenn das Verhalten einem Anwalt zuzurechnen sein kann. In Frankreich und Deutschland haben die Entscheidungen, die wir fanden, die Anwälte nur ermahnt. Zweitens zählen Tempo und Offenheit dort, wo ein Gericht Ermessen hat: Navarra stellte das Sanktionsverfahren ein, weil die Anwältin sich sofort und zweimal schriftlich entschuldigt hatte. Drittens sind Führungskräfte im Blick. Der britische Divisional Court kündigte an, künftig zu fragen, ob Kanzleileitungen dafür gesorgt haben, dass alle ihre Pflichten beim KI-Einsatz kennen, und fügte hinzu, dass eine bloße Ermahnung außer in Ausnahmefällen als Reaktion kaum genügen dürfte.

Die Zahlen hinter den Fällen

Die Datenbank erfasst Entscheidungen, in denen ein Gericht mit halluzinierten Inhalten befasst war; in den meisten hat das Gericht den KI-Einsatz nur angenommen (die Datenbank vermerkt das Werkzeug dann als „Implied“). Jede falsche Fundstelle kann sie nicht zählen, die Dunkelziffer ist also höher, und ein Teil des Zuwachses seit 2025 beruht auf besserer Erfassung. Die Richtung ist trotzdem eindeutig: mehr als 160 Entscheidungen im Juli 2025, 2.266 im November 2026.

Polen und Argentinien folgen mit je 10 Einträgen, dann Spanien mit 8. Die Emirate haben 2, Katar 1; die Türkei und Japan keinen. Insgesamt führt die Datenbank mehr als 40 Rechtsordnungen, und manche Entscheidungen stehen doppelt (die 11 deutschen Einträge sind 8 Entscheidungen). Bevor Sie das als amerikanisches Problem abtun: US-Gerichte veröffentlichen weit mehr Beschlüsse und werden genauer beobachtet, und die Liste enthält keinen türkischen Eintrag, obwohl in der Türkei im Juni 2026 ein Ermittlungsverfahren berichtet wurde.

Wer hat das Werkzeug benutzt? Nicht anwaltlich vertretene Parteien in 1.305 Entscheidungen, Anwälte in 898, Richter in 33, Sachverständige in 17. Die beiden letzten Zahlen haben praktische Folgen: Prüfen Sie die Belege der Gegenseite, ein Sachverständigengutachten und jede Entscheidung, auf die Sie sich stützen wollen, mit denselben sechs Schritten.

Eine KI-Richtlinie für Ihre Kanzlei auf einer Seite

Die Berufsorganisationen laufen auf dieselbe kurze Liste zu, und eine kleine Kanzlei schreibt sie an einem Nachmittag.

1. Die Unterschrift trägt die Verantwortung. Benennen Sie die Person, die für jede Fundstelle eines Schriftsatzes einsteht, gleich wer oder was ihn entworfen hat. Die Gerichte tun es ohnehin.
2. Nur freigegebene Werkzeuge. Führen Sie auf, welche Werkzeuge für Mandatsarbeit erlaubt sind. Private Konten und Browser-Erweiterungen bleiben draußen. Maßgeblich sind, wo die Daten verarbeitet werden, ob sie zum Training verwendet werden und was der Vertrag sagt. Für Berufsträger kommen die Verschwiegenheit nach § 43a Abs. 2 BRAO und die Anforderungen des § 43e BRAO an externe Dienstleister hinzu. Mehr dazu in unserem Beitrag über Vertraulichkeit und Mandantendaten.
3. Namen gehören nicht in Prompts, solange das Werkzeug dafür nicht freigegeben ist. Personenbezogene Angaben standardmäßig entfernen.
4. Prüfen, bevor etwas das Haus verlässt. Die sechs Schritte für jede Fundstelle in allem, was bei Gericht eingereicht oder dem Mandanten als Rat übermittelt wird, und eine zweite Person bei Eingaben über einer Risikoschwelle, die Sie selbst festlegen: Frist, Streitwert, Berufungsinstanz.
5. Offenlegen, wo die Regel es verlangt. Manche Gerichte verlangen eine Erklärung zum KI-Einsatz (der Federal Court of Canada tut es, und eine Entscheidung vom November 2026 rügte eine Partei, die sie nicht abgegeben hatte), viele nicht. Führen Sie eine Seite mit den Regeln der Gerichte, bei denen Sie auftreten, und sagen Sie Mandanten im Mandatsvertrag, wie Sie KI einsetzen.
6. Schulen und beaufsichtigen. Referendare, Mitarbeiter und Mandanten nutzen diese Werkzeuge ohnehin. Eine halbe Stunde Schulung und eine feste Frage bei der Aktenkontrolle (welches Werkzeug, welcher Prompt, welche Quellen?) kosten fast nichts.
7. Spuren sichern. Protokollieren Sie für jede Eingabe Werkzeug, Datum und Prüfung.

Was Ihre eigene Berufsorganisation veröffentlicht hat, soweit wir es gefunden haben: in Deutschland die Hinweise der BRAK zum Einsatz von KI (Stand Dezember 2024); die American Bar Association (ABA) mit der Formal Opinion 512 (29. Juli 2024); in Frankreich der Praxisleitfaden (2024) und der Leitfaden zu Berufsrecht und KI (März 2026) des Nationalen Anwaltsrats CNB; in Spanien das Rundschreiben 3/2026 des spanischen Anwaltsrats CGAE (April 2026); in Brasilien die Empfehlungen der brasilianischen Anwaltskammer OAB vom 11. November 2024; in der Türkei der Leitfaden der Union der türkischen Anwaltskammern TBB vom August 2026; in den Emiraten die zehn Leitprinzipien des Justizministeriums für Anwaltskanzleien (September 2026). Keines verbietet KI. Alle knüpfen Bedingungen daran.

Wenn eine falsche Fundstelle schon im Schriftsatz steht

Tempo zählt, und die Reihenfolge der Schritte.

1. Anhalten und den ganzen Schriftsatz neu prüfen, nicht nur die Stelle, die das Gericht gefunden hat. In der Datenbank betreffen Entscheidungen oft mehrere Belege.
2. Ist er noch nicht eingereicht oder zugestellt, korrigieren Sie jetzt. Das spanische Rundschreiben hält fest, dass rechtzeitiges Berichtigen verhindern kann, dass der Verstoß vollendet wird.
3. Ist er eingereicht, informieren Sie das Gericht selbst, schriftlich und sachlich: was falsch war, was Sie getan haben. Eine prompte Entschuldigung beendete das Sanktionsverfahren in Navarra. In London meldete das Gericht sogar einen Solicitor, der den Fehler eingeräumt und sich selbst gemeldet hatte, und Anwälten, die fünf erfundene Entscheidungen als „kosmetische Fehler“ abtaten, hielt der Richter entgegen, sie hätten bestürzt sein müssen.
4. Informieren Sie den Mandanten und Ihre Berufshaftpflichtversicherung, bevor sie es von anderer Seite erfahren.
5. Klären Sie, ob Ihre Kammer eine Selbstmeldung erwartet. Der Londoner Richter meinte, die Anwälte hätten sich selbst melden müssen.
6. Halten Sie fest, wie es dazu kam, und ändern Sie den Ablauf. Gerichte und Kammern fragen, was Sie geändert haben.

Wo Sie in Deutschland nachprüfen

• Rechtsprechung: Rechtsprechung im Internet für die Entscheidungen der Bundesgerichte; juris und beck-online für Landes- und Instanzgerichte sowie Kommentare und Zeitschriften; dejure.org für schnelle Querverweise.
• Gesetze: Gesetze im Internet mit der aktuellen Fassung; für ältere Fassungen die Änderungshistorie in juris oder beck-online.
• Europa: EUR-Lex für Rechtsakte und den EuGH, HUDOC für den EGMR.
• Berufsrecht: die Bundesrechtsanwaltskammer mit ihren Hinweisen zum KI-Einsatz.

Wer in mehreren Rechtsordnungen zugleich recherchiert, findet Näheres in unserem Leitfaden zur grenzüberschreitenden Rechtsrecherche.

Wo Lexvora hilft und wo es aufhört

Lexvora beantwortet Rechtsfragen für viele Rechtsordnungen und hängt, wenn es recherchiert, die gefundenen Quellen an, sodass Schritt 1 und 4 mit einem Link beginnen, den Sie öffnen können, und nicht mit einem Namen, den Sie erst suchen müssen. Ein Quellenlink ist ein Ausgangspunkt, kein Beweis: Lexvora ist ein Recherchewerkzeug, kann sich irren wie jedes andere, und die sechs Prüfschritte gelten auch für seine Ausgaben. Wenn Sie sehen möchten, wie sich das an einer echten Frage verhält, können Sie es kostenlos testen. Kleine Kanzleien finden mehr in warum Einzelanwälte und kleine Kanzleien KI-Werkzeuge brauchen.

Häufige Fragen

Ist es berufsrechtlich zulässig, ChatGPT oder andere KI zu nutzen?

Keine der Orientierungshilfen, die wir gesichtet haben, verbietet es. Alle knüpfen Bedingungen daran: Sachkunde, Verschwiegenheit, Aufsicht und vor allem Überprüfung, bevor etwas zu Gericht oder zum Mandanten geht. Die BRAK-Hinweise ersetzen dabei nicht die eigenverantwortliche Prüfung im Einzelfall.

Was passiert, wenn mir versehentlich ein erfundener Beleg unterläuft?

Die Fälle oben reichen vom bloßen Hinweis über eine Sanktion von 5.000 Dollar, Geldbußen von 420 bis 1.800 Euro in Spanien und fünf Mindestlöhne in Brasilien bis zu nutzlos entstandenen Kosten von 282.508 Dirham und der Meldung an Kammer oder Aufsichtsbehörde; ein US-Bundesgericht ging in einem Fall auf rund 110.000 Dollar. Der Vorsatz entscheidet über manche Folgen (die Missachtung des Gerichts setzt Kenntnis voraus, und § 43a Abs. 3 BRAO spricht von bewusst verbreiteten Unwahrheiten), über andere nicht (eine Kostenauferlegung verlangt ihn nicht). In der Hand haben Sie, wie schnell und wie offen Sie korrigieren.

Muss ich dem Gericht sagen, dass ich KI genutzt habe?

Das hängt vom Gericht ab. Manche verlangen eine Erklärung, viele nicht. Führen Sie deshalb eine Übersicht der Regeln der Gerichte, bei denen Sie auftreten. Überprüfung ist überall nötig, ersetzt aber dort, wo ein Gericht eine Erklärung verlangt, diese Erklärung nicht.

Halluzinieren juristische KI-Werkzeuge wie Lexis+ AI oder Westlaw auch?

Seltener als allgemeine Chatbots, aber ja. Stanford-Forscher fanden 2024 bei drei solchen Werkzeugen Halluzinationsraten zwischen 17 % und 33 %. Produkte ändern sich; testen Sie das, das Sie nutzen, an Fragen, deren Antwort Sie schon kennen.

Wie lange dauern die sechs Prüfschritte?

Rechnen Sie mit einigen Minuten pro Fundstelle. Die Schritte 1 und 2 gehen schnell; das Lesen in den Schritten 3 und 4 ist die eigentliche Arbeit. Bei einem Schriftsatz mit zwanzig Belegen planen Sie eine Stunde ein, nicht eine Minute.

Können auch Richter und Sachverständige halluzinieren?

Die Datenbank listet 33 Entscheidungen, in denen ein Richter betroffen war, und 17 mit Sachverständigen. Behandeln Sie alles, worauf Sie sich stützen, gleich, wer es erstellt hat.

Quellen und Stand

Geprüft am 8. November 2026. Wo Berichte voneinander abweichen, haben wir uns an den Text des Gerichts gehalten.

• AI Hallucination Cases Database, Damien Charlotin, Stand 5. November 2026, unter CC BY 4.0; wir haben seine Zahlen neu gruppiert (etwa nach Anwälten) und die Prozentwerte berechnet. Die Zahl vom Juli 2025 stammt aus Next, 1. Juli 2025.
• Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, Magesh u. a. (Stanford RegLab und HAI), erschienen im Journal of Empirical Legal Studies 2025.
• AG Köln, 312 F 130/25, beck-aktuell, 8. Juli 2025.
• Ayinde v Haringey und Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), das Urteil im Volltext beim National Archives; Court issues stark warning to lawyers over AI-generated fake cases, Legal Futures, und der Bericht der Law Gazette zum ersten Urteil.
• Hallucinations before French courts, Morgan Lewis, März 2026.
• USA und Kanada: ABA Journal zur Sanktion von 110.000 Dollar in Oregon und die Seite des Federal Court of Canada zu KI.
• Spanien: die spanischen Einträge der Datenbank (Galicia und der Kanaren-Fall vom Februar), Pressemitteilung des TSJ Navarra, TSJ Canarias und das Rundschreiben des CGAE.
• Brasilien: Entscheidung des TSE und Empfehlungen der OAB.
• Türkei: Pressebericht zum Fall in Ankara, die Darstellung des Anwalts zur gerichtlichen Verfügung und der Leitfaden des TBB.
• Emirate: Analyse des ADGM-Urteils, Morgan Lewis, und die Prinzipien des Justizministeriums.

---

Dieser Beitrag dient nur der allgemeinen Information und ist keine Rechtsberatung. Die Regeln zum KI-Einsatz in gerichtlichen Eingaben unterscheiden sich je nach Gericht und ändern sich schnell: Prüfen Sie die für Sie geltenden. Zuletzt geprüft: 8. November 2026.