KI-Halluzinationen vor Gericht: Wenn der Algorithmus lügt – und Anwälte dafür büßen

Der Algorithmus lügt – und niemand prüft es nach

Stellen Sie sich vor: Ein Anwalt reicht beim Gericht eine Klageschrift ein, gespickt mit präzisen Aktenzeichen, wörtlichen Richter-Zitaten und überzeugenden Präzedenzfällen. Alles wirkt solide recherchiert. Bis das Gericht die Urteile nachschlägt – und keines davon existiert. Die Dokumente waren mit präzisen Aktenzeichen und wörtlichen Zitaten des Bundesgerichtshofs gespickt – doch bei der gerichtlichen Prüfung stellt sich heraus: Diese Urteile existieren gar nicht. Sie stammen aus einem digitalen Paralleluniversum, erschaffen von einer Künstlichen Intelligenz, die Fakten nicht prüft, sondern lediglich Wahrscheinlichkeiten berechnet.

Was vor wenigen Jahren noch wie ein dystopisches Szenario geklungen hätte, ist inzwischen gerichtliche Realität – in den USA, in Deutschland und in Dutzenden weiteren Ländern. Eine systematisch geführte Datenbank zählt rund 1.600 Fälle von KI-Halluzinationen in juristischen Dokumenten aus 35 Ländern seit April 2023 – und die Häufigkeit solcher Fehler hat sich jährlich verachtfacht. Richter verlieren die Geduld. Die Sanktionen werden härter. Und das Berufsrecht hinkt einer Technologie hinterher, die sich schneller entwickelt als jede Standesregel.

Der Ausgangsfall: Mata v. Avianca – der Moment, der alles veränderte

Der Wendepunkt in der juristischen KI-Debatte hat einen präzisen Zeitstempel: den 22. Juni 2023. Was als routinemäßige Schadenersatzklage gegen eine Fluggesellschaft begann, wurde zum prominentesten Beispiel dafür, was schiefläuft, wenn Anwälte sich auf Künstliche Intelligenz verlassen, ohne deren Ergebnisse zu überprüfen. Zwei Anwälte wurden sanktioniert, nachdem sie einen Schriftsatz eingereicht hatten, der auf sechs vollständig erfundenen Gerichtsentscheidungen basierte – generiert von ChatGPT. Der Fall prägte neu, wie Gerichte, Anwaltskammern und Kanzleien über KI in der Rechtspraxis denken.

Anwalt Steven Schwartz der Kanzlei Levidow, Levidow & Oberman nutzte ChatGPT für seine juristische Recherche und verfasste einen Schriftsatz, der sechs Fälle als Präzedenzurteile zitierte. Das Problem: Keiner dieser Fälle existierte. Nicht einer. ChatGPT hatte Fallnamen, Aktenzeichen und sogar plausibel klingende Richterurteile fabriziert.

Was den Fall besonders brisant machte: Als Gegenseite darauf aufmerksam machte, dass die Fälle nicht auffindbar seien, verdoppelte Schwartz seine Position, fragte ChatGPT, ob die Fälle real seien – und das Modell bestätigte dies bereitwillig. Er reichte daraufhin eine eidesstattliche Erklärung ein, die ihre Echtheit bezeuge.

Richter Castel verhängte eine Geldstrafe von 5.000 US-Dollar und verpflichtete Schwartz und seine Kanzlei, Korrekturanschreiben an jeden Richter zu senden, dessen Name in den erfundenen Urteilen erschienen war. Die Entscheidung betonte einen Grundsatz, der seitdem die Rechtsprechung landesweit geprägt hat: Zwar ist es nicht grundsätzlich unzulässig, KI-Tools einzusetzen – aber Anwälte tragen eine absolute Kontrollpflicht für die Richtigkeit ihrer Einreichungen.

Der Mississippi-Fall 2026: Beide Seiten auf der Anklagebank

Wenn ein Anwalt KI-Halluzinationen in einen Schriftsatz einbaut, ist das ein Fehler. Wenn es beide Seiten desselben Verfahrens tun – unabhängig voneinander –, dann ist das ein Symptom. Genau das geschah im Juni 2026 vor dem US-Bundesbezirksgericht für den nördlichen Bezirk von Mississippi.

Tom Withers III und die Stadt Aberdeen stritten sich vor dem US District Court um unbezahlte Anwaltshonorare. Beide Seiten reichten Schriftsätze ein, die Fallzitate enthielten – Urteile, die schlicht nicht existieren.

In einer Sanktionsverfügung entzog US-Bundesrichterin Sharion Aycock allen vier Anwälten den Fall, sperrte zwei von ihnen für zwei Jahre von der Zulassung vor dem Gericht und verhängte insgesamt fast 7.000 Euro Geldstrafen. Die Geldstrafen lagen zwischen 1.000 und 3.500 Euro pro Person.

Das Gericht sei „erneut damit belastet worden, KI-Halluzinationen in Gerichtsschriftsätzen zu klären", schrieb Aycock in der 23-seitigen Verfügung. „Dieser Fall konfrontiert das Gericht mit einem ungewöhnlichen Szenario – Anwälte beider Parteien haben sich ähnlichen sanktionswürdigen Verhaltens schuldig gemacht."

Das Wort „erneut" in der richterlichen Verfügung ist dabei der eigentliche juristische Befund. Das Gericht rügte insbesondere das Verhalten einer beteiligten Anwältin, die angab, das Phänomen der KI-Halluzinationen nicht zu kennen – und stellte fest, dass sie selbst nach einer ersten Anhörung im Januar in anderen Verfahren weiterhin fehlerhafte maschinelle Zitate verwendete.

Rechtsexperte Mark Bartholomew, Professor an der Rechtsfakultät der University at Buffalo, kommentiert die Verschärfung gegenüber dem Business Insider deutlich: „In einigen früheren Fällen kamen die betroffenen Anwälte noch mit einem Verweis davon. Mittlerweile glauben Richter einem Anwalt nicht mehr, wenn er beteuert, er habe nicht gewusst, dass KI-Modelle halluzinieren können – und sie sind bereit, ein solches Verhalten als bösgläubig zu bezeichnen."

Der erste deutsche Fall: Amtsgericht Köln, Juli 2025

KI-Halluzinationen vor Gericht sind kein rein amerikanisches Phänomen. Deutschland hat seinen eigenen Präzedenzfall – und er liegt erst wenige Monate zurück.

Ein Rechtsanwalt in einer Familiensache vor dem Amtsgericht Köln (Az. 312 F 130/25) reichte einen Schriftsatz ein, der offenbar von einer KI erstellt wurde und zahlreiche erfundene oder unzutreffende Fundstellen enthielt. Der Schriftsatz enthielt zahlreiche nicht existente Quellen, falsche Literaturangaben und Fehlzitate – fingierte Randziffern und erfundene Beiträge in Fachzeitschriften.

Unter anderem wurde ein Kommentar aus dem Münchener BGB einem falschen Autor zugeordnet, fiktive Fundstellen genannt oder nicht existierende Fachaufsätze wie „Brons, Kindeswohl und Elternverantwortung, 2013" angeführt.

Das Gericht ließ an seiner Bewertung keinen Zweifel. In seinem Beschluss vom 2. Juli 2025 heißt es laut dem Datenschutzticker: „Die weiteren von dem Antragsgegnervertreter im Schriftsatz vom 30.06.2025 genannten Voraussetzungen stammen nicht aus der zitierten Entscheidung und sind offenbar mittels künstlicher Intelligenz generiert und frei erfunden."

Und nicht nur das: Darüber hinaus könnte sogar der Vorwurf eines versuchten Prozessbetrugs im Raum stehen – insbesondere dann, wenn die bewusst oder zumindest billigend in Kauf genommenen Falschinformationen das Gericht irreführen sollen.

Kurz darauf folgte die nächste deutsche Instanz. Das Landgericht Frankfurt am Main legte am 25. September 2025 nach und machte deutlich: Wer KI nutzt, muss Quellen prüfen, sonst drohen prozessuale und berufsrechtliche Konsequenzen.

Weitere Fälle im Überblick: Ein globales Muster

Die Zahl dokumentierter Fälle wächst exponentiell. Was anfangs wie kuriose Einzelfälle wirkte, hat sich zu einem strukturellen Problem im globalen Rechtssystem entwickelt.

Quellen: Wikipedia – Mata v. Avianca; Business Insider DE; Harvard Law – Kaur v. Desso; Justia News; Ars Technica via Harvard

Besonders aufsehenerregend war der California-Fall: Anwaltskanzleien wurden zu einer Zahlung von 31.100 USD verurteilt, nachdem sie gefälschte KI-Zitate eingereicht hatten, die beinahe in einem Gerichtsurteil gelandet wären. Der pensionierte US-Magistrate Judge Michael Wilner, der als Special Master tätig war, gab zu, dass er die Zitate zunächst für real hielt und sie „fast" in eine Anordnung aufgenommen hätte.

Im Walmart-Fall mit drei sanktionierten Anwälten hält das Gericht in seiner Entscheidung fest, was inzwischen als Grundprinzip gilt: „Als Anwälte in die Welt der KI übergehen, bleibt die Pflicht, ihre Quellen zu prüfen und eine vernünftige Untersuchung des geltenden Rechts vorzunehmen, unverändert."

Was sind KI-Halluzinationen – und warum passieren sie?

Der Begriff „Halluzination" klingt anthropomorph – er trifft das Phänomen aber erstaunlich präzise. KI-Halluzinationen bezeichnen das Phänomen, bei dem generative KI-Systeme täuschend echt wirkende, aber frei erfundene juristische Quellen oder Sachverhalte generieren.

Der technische Hintergrund: KI-Modelle arbeiten statistisch und ohne echtes Verständnis, was bedeutet, dass ihre Antworten zwar oft plausibel klingen, aber inhaltlich falsch sein können. Dieses Phänomen wird als „Halluzination" bezeichnet – die KI erfindet scheinbar logische Informationen, die tatsächlich falsch sind. Zudem besteht die Gefahr von Bias durch unzureichendes oder einseitiges Trainingsmaterial, wodurch Ergebnisse verfälscht werden können.

Das tückische daran: KI-Werkzeuge produzieren überzeugend formulierte Zitate – inklusive Aktenzeichen, Datum, Parteinamen – die auf Nachschlagen keine Spur hinterlassen, weil sie schlicht nicht existieren. Genau diese Überzeugungskraft ist das eigentliche Risiko: Ein halluziniertes Urteil sieht aus wie ein echtes Urteil – vollständig, kohärent, mit allem, was dazugehört.

Im Mata v. Avianca-Fall fragte Anwalt Schwartz ChatGPT ausdrücklich, ob die genannten Fälle real seien. ChatGPT versicherte, dass die Fälle „tatsächlich existieren" und „in renommierten juristischen Datenbanken wie LexisNexis und Westlaw gefunden werden können". Ein fataler Irrtum – und ein strukturelles Versagen des KI-Systems, das keine Fähigkeit zur Selbstreflexion über die Wahrheit seiner Ausgaben besitzt.

Das Berufsrecht: Was deutsche Anwälte jetzt wissen müssen

In Deutschland ist die rechtliche Bewertung klar – auch wenn spezifische Sanktionsnormen für KI-Halluzinationen noch nicht kodifiziert sind.

Die Pflicht zur gewissenhaften Berufsausübung (§ 43 BRAO)

Der Anwalt ist nach § 43 S. 1 BRAO zur gewissenhaften Berufsausübung verpflichtet. KI-Systeme dürfen die Tätigkeit nur unterstützen, nicht ersetzen. Eine eigenverantwortliche Überprüfung und Endkontrolle sämtlicher KI-Ergebnisse ist stets erforderlich, da KI-generierten Arbeitsprodukten im Gegensatz zu erfahrenen Mitarbeitern kein „Grundvertrauen" entgegengebracht werden darf.

Der BRAK-Leitfaden (Dezember 2024)

Ein Leitfaden der BRAK gibt eine Orientierungshilfe, wie Anwältinnen und Anwälte KI-Tools berufsrechtskonform einsetzen können. KI-Tools gibt es für Datenanalyse, Dokumentenmanagement, Recherchen oder Übersetzungen; inzwischen existieren auch einige spezifisch juristisch trainierte KI-Tools. Aufgrund ihrer Funktionsweise bergen diese Tools jedoch eine Reihe von Risiken.

Unter anderem können sie falsche Informationen (sog. Halluzinationen) oder aufgrund von lückenhaftem oder einseitigem Trainingsmaterial verzerrte Ergebnisse generieren. Dies kann ohne hinreichende anwaltliche Kontrolle zu haftungsrechtlichen Problemen führen.

Der Leitfaden gibt eine Orientierungshilfe für Anwältinnen und Anwälte unter anderem zu Prüfungs- und Kontrollpflichten, zur Wahrung der anwaltlichen Verschwiegenheitspflicht und zu Transparenzpflichten in Bezug auf den KI-Einsatz. Zudem erläutert der Leitfaden die wichtigsten Anforderungen und Pflichten nach der KI-Verordnung und ihr Verhältnis zum Berufsrecht.

Der DAV und die Stellungnahme Nr. 32/2025

Aufbauend auf den BRAK-Hinweisen legte der Deutsche Anwaltverein (DAV) im Juli 2025 die Initiativ-Stellungnahme Nr. 32/2025 vor, um Juristen eine praxisnahe Orientierungshilfe zu bieten. Der DAV bekräftigt, dass Anwältinnen und Anwälte nur gewissenhaft handeln, wenn sie das Ergebnis der KI kritisch prüfen. Sowohl BRAK als auch DAV stellen klar, dass kein „Grundvertrauen" in KI-generierte Arbeitsprodukte gesetzt werden darf, wie es möglicherweise in langjährige, erfahrene Mitarbeitende gesetzt wird.

Die Haftungsfolgen: Zivilrecht, Berufsrecht, Strafrecht

Die rechtlichen Konsequenzen für Anwälte, die KI-Halluzinationen unkritisch verwenden, sind mehrdimensional:

Quellen: Kanzlei Franz – KI in der Anwaltschaft; Datenschutzticker; Von Lauff und Bolz – KI-Nutzung und Anwaltshaftung

Die zivilrechtliche Haftung des Rechtsanwalts für fehlerhafte KI-Ergebnisse unterscheidet sich nicht von sonstigen Fällen der Anwaltshaftung, etwa wegen Fristversäumnis oder Beratungsfehlern. Eine Haftung richtet sich also nach den allgemeinen Grundsätzen des Vertragsrechts.

Besonders riskant ist die Vergütungsfrage: Soweit eine Nutzlosigkeit vorliegt, hat der ehemalige Anwalt keinen Honoraranspruch. Bereits gezahlte Anwaltskosten müssen erstattet werden. Dies erfolgt allerdings nicht nach dem Prinzip „alles oder nichts" – wenn die Leistungen nur teilweise nutzlos geworden sind, hat der Mandant auch nur einen Teilanspruch auf Rückzahlung.

Auch Sachverständige sind nicht gefeit: Werden Gutachten maßgeblich von einer KI ohne Deklaration erstellt, kann das Honorar gemäß § 407a Abs. 3 ZPO auf 0,00 Euro gekürzt werden – wie das LG Darmstadt entschieden hat.

Und ein weiteres, oft unterschätztes Risiko betrifft den Datenschutz: Unabhängig von Halluzinationen kann die Nutzung öffentlich zugänglicher KI-Tools zu schwerwiegenden Datenschutz- und Compliance-Verstößen führen. Die Eingabe sensibler, vertraulicher Mandanteninformationen, die Rückschlüsse auf ein konkretes Mandatsverhältnis zulassen, kann die anwaltliche Verschwiegenheitspflicht gefährden.

Das globale Bild: Zahlen und Trends

Die Dimension des Problems lässt sich mittlerweile quantifizieren. Der Forscher Damien Charlotin von der HEC Paris führt seit April 2023 systematisch eine Datenbank über KI-Halluzinationen in juristischen Dokumenten:

Quelle: Borncity.com – Datenbank Damien Charlotin, HEC Paris, Stand Juni 2026

Im ersten Quartal 2026 wurden bereits 39 Fälle dokumentiert – rund 18 Prozent davon von zugelassenen Rechtsanwälten. Der Rest entfiel auf Laien, die sich in Verfahren selbst vertraten – was die professionelle Verantwortung von Anwälten umso schärfer ins Licht rückt.

Auch die juristische Reaktion in anderen Ländern nimmt Fahrt auf: Die südkoreanische Justiz reagiert mit eigenen Maßnahmen. Geplant sind spezielle Offenlegungspflichten für KI-gestützte Dokumente sowie eigene Geldstrafen für eingereichte Fälschungen.

In den USA zeichnet sich ein klares Sanktionsmuster ab: Während Gerichte bislang typischerweise Geldstrafen zwischen 1.500 und 15.000 Dollar verhängt haben, werden die Strafen zunehmend individuell auf Mitigierungsfaktoren wie schnelles Eingestehen, Rücknahme des Schriftsatzes und CLE-Kurse abgestimmt.

Warum scheitern Anwälte trotzdem? Die fünf häufigsten Fehler

Die Analyse der dokumentierten Fälle zeigt ein wiederkehrendes Muster an Fehlerquellen:

1. Falsches Verständnis des Tools: Michael Cohen etwa glaubte, Google Bard sei eine „super-charged search engine" und kein KI-Programm – eine Fehleinschätzung, die nicht nur Laien, sondern auch erfahrenen Juristen unterläuft.

2. KI zur Verifikation der KI nutzen: Im Mata-Fall fragte Schwartz ChatGPT, ob die zitierten Fälle echt seien – und erhielt eine falsche Bestätigung. Ein KI-Modell kann nicht zuverlässig die Halluzinationen eines anderen (oder desselben) Modells erkennen.

3. Zeitdruck und Bequemlichkeit: Ein Einwanderungsanwalt gab zu, unter Zeitdruck und einer Atemwegserkrankung leidend eine KI zum Verfassen eines Schriftsatzes genutzt und die Zitate trotz Kenntnis der Halluzinationsneigung nicht verifiziert zu haben.

4. Keine Prüfung eingekaufter Schriftsätze: Im Fall Dehghani v. Castro kaufte ein Anwalt einen Schriftsatz von einem freiberuflichen Kollegen, der wahrscheinlich GenAI genutzt und seine Notizen vernichtet hatte. Der kaufende Anwalt prüfte den Schriftsatz nicht, bevor er ihn einreichte.

5. Weiterführen trotz Warnung: Im Fall Mata v. Avianca hielten die Anwälte sogar dann noch an den gefälschten Gutachten fest, nachdem die Gegenseite deren Existenz in Zweifel gezogen hatte.

Der richtige Umgang mit KI im juristischen Kontext: Was funktioniert

Die Lösung liegt nicht im generellen KI-Verzicht – das wäre ein Wettbewerbsnachteil ohne Sicherheitsgewinn. „Der technologische Fortschritt ist alltäglich und es ist an sich nichts Falsches daran, ein zuverlässiges Werkzeug der künstlichen Intelligenz zur Unterstützung zu verwenden", stellte der zuständige Richter im Mata-Fall klar. Aber Anwälten obliege auch eine Kontrollpflicht, dass ihre Einreichungen korrekt seien.

Was Kanzleien und Rechtsabteilungen konkret brauchen, ist ein strukturierter Umgang mit KI-generierten Inhalten:

Quellen: BRAK-Leitfaden KI in Anwaltskanzleien, Dezember 2024; Datenschutzticker

KI-Systeme sind dabei nichts anderes als Hilfsmittel – vergleichbar mit Vertragsmusterdatenbanken oder juristischen Kommentaren. Wer also einen KI-Vorschlag einsetzt, muss ihn wie jeden anderen externen Entwurf vollständig fachjuristisch prüfen und bewerten.

Fazit: Verantwortung bleibt menschlich

Die richterliche Botschaft, die sich durch alle Fälle zieht – von New York über Köln bis Mississippi –, ist unmissverständlich: KI darf Hilfsmittel sein, aber sie darf nicht Ersatz sein. Die Entscheidungen unterstreichen, dass KI-Nutzung in der Rechtspraxis Anwälte nicht von ihrer Pflicht entbindet, die Richtigkeit von Einreichungen zu bestätigen – und dass selbst in Notfallsituationen Gerichte Anwälte für ungeprüfte, fiktive Rechtsinhalte verantwortlich machen werden.

Die Eskalation der Sanktionen folgt einer klaren Logik: Der Fall Johnson v. Dunn unterstreicht die wachsende Ungeduld der Justiz gegenüber KI-generierten Fehlern in Schriftsätzen. Was 2023 noch als entschuldbares Missverständnis einer neuen Technologie galt, gilt 2026 als grobe Fahrlässigkeit – oder schlimmer: als Bösgläubigkeit.

Für Kanzleien und Rechtsabteilungen bedeutet das: Die Frage ist nicht mehr, ob man KI einsetzt, sondern wie man sie verantwortungsvoll integriert. KI soll die menschliche Arbeit unterstützen, nicht ersetzen. Mit einem verantwortungsvollen Einsatz können Anwaltskanzleien die Vorteile der KI nutzen und zugleich ihrer hohen beruflichen Verantwortung gerecht werden – zum Wohle der Mandanten und der Qualität der Rechtspflege.

Der Unterschied zwischen einer Kanzlei, die KI klug einsetzt, und einer, die damit scheitert, liegt nicht in der Technologie – er liegt im Prozess, in der Kontrolle und im professionellen Urteil. Letzteres bleibt unweigerlich menschlich.