Da juristische Dokumente zunehmend mit großen Sprachmodellen verfasst werden, sind gefälschte Zitate zu einem echten Problem für Gerichte und die vor ihnen erscheinenden Anwälte geworden. Forscher der Georgia Tech haben ein Open-Source-Tool entwickelt, mit dem diese erfundenen Referenzen erfasst werden können, bevor sie einen Richter erreichen.
Das Tool namens Mellea Legal Requirements Checker (Mellea-LRC) kann Zitate aus der Rechtsprechung identifizieren und überprüfen, wobei der Schwerpunkt auf durch KI halluzinierten Zitaten liegt. Es wurde im Rahmen eines Stipendienprogramms am Center for Scientific Software Engineering (CSSE) und Open Source Program Office (OSPO) der Georgia Tech erstellt und durch eine Spende von IBM finanziert, heißt es in der Ankündigung der Universität. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
Die Masterstudenten Adrian Lozada und Di Wu wurden als Fellows ausgewählt, um das Tool mit Mentoren von CSSE und OSPO zu entwickeln. Ihr Ziel, so die Universität, sei es, Anwälten und anderen im Rechtsbereich tätigen Personen eine einfache Möglichkeit zur Überprüfung juristischer Zitate zu bieten.
Wie es funktioniert
Mellea-LRC kombiniert große Sprachmodelle mit dem Open-Source-Framework Mellea von IBM, das auf einem „Anweisen, Überprüfen, Reparieren“-Paradigma basiert: Entwickler schreiben die Regeln, die die Ausgabe eines LLM erfüllen muss, als gewöhnlichen Code, und das Framework wiederholt Modellaufrufe, bis die Ausgabe sie erfüllt.
„Das Mellea-Framework von IBM war die Grundlage, auf der wir es aufgebaut haben. Melleas Aufgabe ist es, Modellaufrufe vorhersehbar zu machen: Sie schreiben die Regeln, die die Ausgabe erfüllen muss, als gewöhnlichen Code, und das Framework versucht es erneut, bis die LLM-Ausgabe diese erfüllt. Unsere Aufgabe bestand darin, das Framework zu nutzen, um die rechtliche Anwendung von Anfang bis Ende zu erstellen“, sagte Wu in der Ankündigung.
Das Tool verarbeitet ein Dokument in etwa acht Minuten. Es extrahiert zunächst Rechtsprechungszitate aus einer Rechtsakte und überprüft dann, ob jedes Zitat authentisch ist und den Inhalt des Dokuments tatsächlich unterstützt. Der zweite Teil ist der Unterschied zwischen einem halluzinierten Zitat und einem bloß gefälschten Zitat. Ein erfundener Fall, der nicht existiert, besteht die erste Prüfung nicht. ein realer Fall, der nicht sagt, was die Klageschrift behauptet, scheitert der zweite.
Getestet anhand real fabrizierter Unterlagen
Das Team bewertete Mellea-LRC anhand von 26 Dokumenten, die bei öffentlichen Gerichten eingereicht wurden und von denen bekannt ist, dass sie gefälschte Zitate enthielten – die gleiche Art von Vorfällen, die mit der Verbreitung von KI-Schriftsätzen zu Sanktionen und gerichtlicher Prüfung geführt haben.
Das Problem, auf das Mellea-LRC abzielt, ist gut dokumentiert: LLMs erzeugen plausibel aussehende Fallnamen, Zitate und Zitate, die keinem echten Präzedenzfall entsprechen, und Anwälte müssen mit Strafen rechnen, wenn sie solche Akten einreichen, ohne sie zu prüfen.
Open Source von Natur aus
Eine zentrale Anforderung des Projekts bestand darin, dass der Code des Tools Open Source sein sollte. Neben dem Tool veröffentlichte das Team einen neuen Test- und Validierungsdatensatz zu Hugging Face für zukünftige Benchmarking-Studien.
„Agentic AI wächst schnell, und ein Großteil des Wachstums findet in Open-Source-Projekten statt, bei denen jeder die Arbeit lesen, nutzen und verbessern kann“, sagte Lozada.
Jeff Young, OSPO-Direktor und leitender Forschungswissenschaftler am Georgia Tech, sagte, dass das Mellea-Framework von IBM für die Arbeit von entscheidender Bedeutung sei, da sein „Anweisen, Verifizieren, Reparieren“-Ansatz die Erstellung zuverlässiger LLM-Schleifen ermögliche.
Die Architektur hinter zuverlässiger Ausgabe
Das Besondere am Mellea-Ansatz ist die Tatsache, dass er die Last der Zuverlässigkeit auferlegt. Bei den meisten Strategien zur Eindämmung von Halluzinationen muss das Modell selbst vorsichtiger sein – durch Aufforderung, Feinabstimmung oder Abruferweiterung. Mellea-LRC kehrt das um: Die Korrektheitsanforderungen leben in gewöhnlichem Code außerhalb des Modells, und das Framework ruft das Modell so lange auf, bis die Ausgabe sie nachweislich erfüllt.
Dieses Design hat zwei praktische Konsequenzen. Erstens ist die Verifizierungslogik überprüfbar – ein Anwalt oder ein Gericht kann genau ablesen, welche Regeln ein Zitat erfüllen musste, anstatt sich auf ein undurchsichtiges Musterurteil zu verlassen. Zweitens verallgemeinert sich dasselbe Muster über rechtliche Zitate hinaus auf jeden Bereich, in dem Ausgaben mechanisch überprüft werden können, was genau die Eigenschaft ist, die Agenten-Frameworks für Unternehmensentwickler attraktiv gemacht hat.
Erwähnenswert ist auch die Struktur der Gemeinschaft. Anstelle eines geschlossenen Unternehmenslabors vereinte das Projekt zwei Masterstudenten, Mentoren von CSSE und OSPO sowie IBM-Finanzierung zu einem engen, genau definierten Verifizierungsproblem – und produzierte ein Arbeitstool sowie einen öffentlichen Benchmark-Datensatz.
Warum es für die Rechtsbranche wichtig ist
Gerichte sind zum Brennpunkt für Probleme mit der KI-Zuverlässigkeit geworden. Der von Mellea-LRC automatisierte Verifizierungsworkflow – die Bestätigung, dass ein Zitat vorhanden ist und die Überprüfung, ob es den Angaben des Verfassers entspricht – ist genau der Sorgfaltsschritt, den menschliche Gutachter überspringen, wenn die Fristen knapp sind.
Eine Bearbeitungszeit von acht Minuten pro Dokument macht es praktisch, die Prüfung vor der Einreichung durchzuführen und nicht als forensische Übung, nachdem ein Richter einen nicht existierenden Fall gemeldet hat. Und da sowohl das Tool als auch sein Bewertungsdatensatz Open Source sind, können andere Teams seine Funktionsweise überprüfen, es auf weitere Gerichtsbarkeiten und Zitierformate ausweiten und Benchmark-Verbesserungen vornehmen – ein Ansatz, der im Gegensatz zu geschlossenen, proprietären Halluzinationsprüfern steht.
Das Projekt signalisiert auch, wohin die Entwicklung von KI-Tools für Unternehmen geht: Anstatt zu versuchen, Modelle weniger halluzinieren zu lassen, bauen Teams wie das von Georgia Tech Verifizierungsschichten um sie herum auf und verwenden strukturierte Regeln und automatisierte Wiederholungsversuche, um die Modellausgabe vorhersehbar genug für anspruchsvolle Berufe zu machen.
Für die Rechtsbranche ist die Rechnung einfach. KI kann in wenigen Minuten einen Brief verfassen, und Tools wie Mellea-LRC können die Zitate in etwa derselben Zeit prüfen. Die verbleibende Variable ist, ob Unternehmen diese Prüfung zu einem obligatorischen Schritt machen – vor der Einreichung und nicht nach der Sanktion.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
