Der Oberste Gerichtshof von New Mexico hat einen Anwalt mit Sanktionen belegt, weil er eine Berufung wegen Mordes eingelegt hatte, die sich auf Zeugen stützte, die nie existierten – von ChatGPT massenhaft erfunden –, was eines der deutlichsten Beispiele dafür darstellt, dass künstliche Intelligenz „Halluzinationen“ bis ins Herz des amerikanischen Justizsystems vordringt.

Einem Bericht von Reuters zufolge verhängte das höchste Gericht des Bundesstaates eine Geldstrafe von 5.000 US-Dollar gegen den Anwalt Stephen Aarons aus Santa Fe und hielt ihn wegen Missachtung dafür fest, dass er es versäumt hatte, „die sachlichen Behauptungen und die rechtliche Autorität in seinem KI-generierten Schriftsatz zu überprüfen“. Der Schriftsatz, der im Rahmen einer Berufung gegen die Verurteilung seines Mandanten wegen Mordes eingereicht wurde, „enthielt falsche Aussagen völlig erfundener Zeugen“ sowie falsche Behauptungen über die Kleidung und das Aussehen des Schützen. Weiteren Kontext zu dieser Geschichte finden Sie in unseren laufenden aktuellen KI-Nachrichten.

Was das Gericht herausgefunden hat

In der Akte des Gerichts wurden keine geringfügigen Ungenauigkeiten beschrieben. Es beschrieb ein Berufungsdokument, das Menschen aus dem Nichts heraufbeschwor: Zeugenaussagen, die nicht existierten, und erfundene Polizeiaussagen darüber, was der Schütze trug und wie der Schütze aussah – genau die Art von sachlichen Details, auf die sich eine Verurteilung wegen Mordes stützen kann.

Laut The Verge, das über die Gerichtsakte berichtete, wurde die Sanktion verhängt, weil Aarons es versäumte, „die Sachbehauptungen und die rechtliche Autorität in seinem KI-generierten Schriftsatz zu überprüfen“, bevor er ihn dem Gericht vorlegte. Mit anderen Worten: Das Problem bestand nicht darin, dass ein Anwalt ein KI-Tool zur Unterstützung bei der Ausarbeitung nutzte. Der Anwalt reichte die Ausgabe ein, ohne auch nur eine einzige erfundene Behauptung mit den tatsächlichen Prozessakten zu vergleichen.

„Anwalt, sehen Sie sich die Nachrichten an?“

Die außergewöhnliche Natur des Falles kam bei einer Anhörung im August zutage, bei der Aarons zugab, ChatGPT verwendet zu haben, und dem Gericht mitteilte, dass er erwartet hatte, dass der Chatbot eine „kugelsichere Zusammenfassung“ des Prozesses erstellen würde. Diese Erwartung löste eine deutliche Reaktion des Richters am Obersten Gerichtshof von New Mexico, C. Shannon Bacon, aus.

„Anwalt, sehen Sie sich die Nachrichten an? Hören Sie Radio? Lesen Sie etwas darüber, was in der Welt vor sich geht?“ Bacon fragte laut Reuters. „Denn das Problem mit Anwälten, die sich auf KI-Halluzinationen verlassen, ist jeden Tag eine oberflächliche Geschichte.“

Die Zurechtweisung der Justiz verdeutlichte, inwieweit sich KI-gestützte Zitate und Zeugenaussagen von einem technischen Nischenproblem zu einem gängigen Berufshaftungsproblem entwickelt haben – eines, von dem Richter inzwischen annehmen, dass jeder praktizierende Anwalt darüber Bescheid wissen sollte.

Das Neueste in einer Reihe von KI-Sanktionen

Der Fall in New Mexico ist der jüngste in einer schnell wachsenden Liste von Gerichten, die Anwälte für den unkontrollierten Einsatz von KI bestrafen. Letztes Jahr verurteilte ein Richter zwei Anwaltskanzleien dafür, dass sie einen Schriftsatz eingereicht hatten, der „zahlreiche falsche, ungenaue und irreführende rechtliche Zitate und Zitate“ enthielt, während Anwälte, die MyPillow-Gründer Mike Lindell vertraten, ebenfalls mit einer Geldstrafe belegt wurden, weil sie KI-generierte falsche Zitate und gefälschte Zitate in eine Gerichtsakte aufgenommen hatten, wie The Verge feststellte.

Das Besondere an der New-Mexico-Sanktion ist das fabrizierte Material. In den meisten früheren Fällen handelte es sich um erfundene juristische Zitate – gefälschte Präzedenzfälle, gefälschte Zitate aus echten Fällen. Hier bezog sich die Fälschung auf die Fakten selbst: Zeugen, Aussagen und Beschreibungen physischer Beweise in einem Strafverfahren. Diese Unterscheidung ist wichtig, weil die Fälschung von Tatsachen in einem Mordfall den Kern dessen trifft, was die Berufungsprüfung schützen soll.

Die Trendlinie ist unverkennbar. Wie The Verge feststellte, nehmen mit der zunehmenden Zahl von Anwälten, die bei ihrer Arbeit KI-Tools nutzen, auch die Fälle zu, in denen ein Gericht Zitate entdeckt, die von KI erfunden – oder halluziniert – wurden. Was einst als peinliches Versehen galt, wird zunehmend als Mangel an beruflicher Kompetenz geahndet, mit Geldstrafen, Missachtungsurteilen und der Kontrolle durch Disziplinarbehörden.

„Ich bin reuig“

Aarons seinerseits sagte gegenüber Reuters, er hoffe, dass die Folgen ohne professionelle Disziplin aufhören würden. „Ich bereue, hoffe aber, dass der Disziplinarrat berücksichtigt, dass es sich um einen ehrlichen Fehler handelte“, sagte er in einer Erklärung.

Ob der Disziplinarrat es als einen ehrlichen Fehler ansieht, bleibt abzuwarten, aber das höchste Gericht des Staates hat bereits seine eigene Meinung deutlich gemacht: eine Geldstrafe von 5.000 US-Dollar und eine Missachtung des Verfahrens für einen Auftrag, der nie anhand der Realität überprüft wurde.

Warum es wichtig ist

Der Fall landet, da Gerichte im ganzen Land ihre Positionen zum Einsatz von KI in Rechtsstreitigkeiten verschärfen. Richter verlangen von Anwälten zunehmend eine Bescheinigung, dass KI-generierte Unterlagen verifiziert wurden, und Sanktionen sind zum sichtbaren Durchsetzungsmechanismus geworden. Die Botschaft des Obersten Gerichtshofs von New Mexico wird wahrscheinlich weit über seine Grenzen hinausgehen: Die Pflicht zur Überprüfung ist persönlich, nicht übertragbar und verschwindet nicht, weil ein Chatbot selbstbewusst klingende Prosa produziert hat.

Für die Anwaltschaft verschiebt sich die Rechnung. Mit KI-Entwurfstools können Stunden an Arbeit eingespart werden, aber ein einzelner erfundener Zeuge in einem eingereichten Schriftsatz kann jetzt eine Geldstrafe, ein Missachtungsurteil und eine Überweisung an die Disziplinarbehörden kosten – ein Beruf, den nur wenige Praktiker attraktiv finden werden. Für alle anderen ist der Fall eine Erinnerung daran, dass die Personen, die die Ergebnisse der KI überprüfen sollen, mehr denn je unter Druck stehen, sie tatsächlich zu überprüfen.

In Strafsachen steht am meisten auf dem Spiel. Sanktionen wegen gefälschter Vorladungen verschwenden gerichtliche Zeit; Fingierte Beweise in einem Berufungsverfahren wegen Mordes berühren den Mechanismus, der über die Gültigkeit einer Verurteilung entscheidet. Ein Berufungsgericht kann nur Ansprüche abwägen, die auf der tatsächlichen Akte basieren – und ein mit Phantomzeugen gespickter Schriftsatz verlangt von den Richtern, über Ereignisse zu entscheiden, die nie stattgefunden haben.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →