Alors que les documents juridiques sont de plus en plus rédigés avec de grands modèles linguistiques, les citations falsifiées sont devenues un véritable problème pour les tribunaux et les avocats qui comparaissent devant eux. Les chercheurs de Georgia Tech ont construit un outil open source conçu pour détecter ces références fabriquées avant qu'elles ne parviennent à un juge.
L’outil, appelé Mellea Legal Requirements Checker (Mellea-LRC), peut identifier et vérifier les citations de jurisprudence, avec un accent particulier sur les citations hallucinées par l’IA. Il a été créé grâce à un programme de bourses du Center for Scientific Software Engineering (CSSE) de Georgia Tech et de l'Open Source Program Office (OSPO), financé par un don d'IBM, selon l'annonce de l'université. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Les étudiants à la maîtrise Adrian Lozada et Di Wu ont été sélectionnés comme boursiers pour créer l'outil avec des mentors du CSSE et de l'OSPO. Leur objectif, selon l'université, était de donner aux avocats et aux autres acteurs du domaine juridique un moyen simple de vérifier les citations juridiques.
Comment ça marche
Mellea-LRC combine de grands modèles de langage avec le framework open source Mellea d'IBM, qui est construit autour d'un paradigme « instruire, vérifier, réparer » : les développeurs écrivent les règles que la sortie d'un LLM doit satisfaire sous forme de code ordinaire, et le framework réessaye les appels de modèle jusqu'à ce que la sortie les respecte.
"Le framework Mellea d'IBM est la base sur laquelle nous l'avons construit. Le travail de Mellea est de rendre les appels de modèle prévisibles : vous écrivez les règles que la sortie doit satisfaire sous forme de code ordinaire, et le framework réessaye jusqu'à ce que la sortie LLM les respecte. Notre travail consistait à exploiter le framework pour construire l'application légale de bout en bout", a déclaré Wu dans l'annonce.
L'outil traite un document en huit minutes environ. Il extrait d'abord les citations de jurisprudence d'un dossier juridique, puis vérifie que chaque citation est authentique et qu'elle soutient réellement le contenu du document – la deuxième partie étant ce qui distingue une citation hallucinée d'une simple fausse. Un cas fabriqué qui n’existe pas échoue à la première vérification ; un cas réel qui ne dit pas ce que prétend le dépôt échoue le second.
Testé par rapport à de véritables dossiers fabriqués
L’équipe a évalué Mellea-LRC sur 26 documents publics déposés devant les tribunaux, connus pour contenir des citations falsifiées – la même classe d’incidents qui a entraîné des sanctions et un examen minutieux devant les tribunaux à mesure que les mémoires rédigés par AI se sont répandus.
Le problème visé par Mellea-LRC est bien documenté : les LLM génèrent des noms de cas, des citations et des citations qui semblent plausibles qui ne correspondent à aucun précédent réel, et les avocats ont été sanctionnés après avoir soumis de tels dossiers sans les vérifier.
Open Source par conception
L'une des principales exigences du projet était que le code de l'outil soit open source. Parallèlement à l'outil, l'équipe a publié un nouvel ensemble de données de test et de validation sur Hugging Face pour de futures études comparatives.
« L'IA agentique se développe rapidement, et une grande partie de cette croissance se produit dans les projets open source, où tout le monde peut lire, utiliser et améliorer le travail », a déclaré Lozada.
Jeff Young, directeur de l'OSPO et chercheur principal à Georgia Tech, a déclaré que le framework Mellea d'IBM était essentiel au travail car son approche « instruire, vérifier, réparer » permet la création de boucles LLM fiables.
L'architecture derrière une sortie fiable
Ce qui rend l’approche Mellea remarquable, c’est là où elle place le fardeau de la fiabilité. La plupart des stratégies d’atténuation des hallucinations demandent au modèle lui-même d’être plus prudent – par le biais d’incitations, de réglages précis ou d’augmentation de la récupération. Mellea-LRC inverse cela : les exigences d'exactitude résident dans le code ordinaire en dehors du modèle, et le framework continue d'appeler le modèle jusqu'à ce que la sortie les satisfasse de manière prouvée.
Cette conception a deux conséquences pratiques. Premièrement, la logique de vérification est vérifiable : un avocat ou un tribunal peut lire exactement les règles qu'une citation doit respecter, plutôt que de se fier à un modèle de jugement opaque. Deuxièmement, le même schéma se généralise au-delà des citations juridiques à tout domaine où les résultats peuvent être vérifiés mécaniquement, ce qui est précisément la propriété qui a rendu les cadres agents attrayants pour les développeurs d'entreprise.
La structure des bourses mérite également d’être notée. Plutôt qu'un laboratoire d'entreprise fermé, le projet a réuni deux étudiants à la maîtrise, le mentorat du CSSE et de l'OSPO et le financement d'IBM autour d'un problème de vérification restreint et bien défini - et a produit un outil de travail ainsi qu'un ensemble de données de référence publiques.
Pourquoi c'est important pour le secteur juridique
Les tribunaux sont devenus un foyer de problèmes de fiabilité de l’IA. Le flux de travail de vérification automatisé par Mellea-LRC – confirmer qu'une citation existe et vérifier qu'elle indique ce que prétend le rédacteur – est exactement l'étape de diligence que les évaluateurs humains sautent lorsque les délais sont serrés.
Un temps de traitement de huit minutes par document permet de l'exécuter avant le dépôt, plutôt que comme un exercice médico-légal après qu'un juge a signalé une affaire inexistante. Et comme l’outil et son ensemble de données d’évaluation sont open source, d’autres équipes peuvent vérifier son fonctionnement, l’étendre à d’autres juridictions et formats de citation, et évaluer les améliorations – une approche qui contraste avec les vérificateurs d’hallucinations fermés et propriétaires.
Le projet indique également où se dirigent les outils d'IA d'entreprise : plutôt que d'essayer de rendre les modèles moins hallucinants, des équipes comme celle de Georgia Tech construisent des couches de vérification autour d'eux, en utilisant des règles structurées et des tentatives automatisées pour rendre la sortie du modèle suffisamment prévisible pour les professions à enjeux élevés.
Pour le secteur juridique, le calcul est simple. L'IA peut rédiger un mémoire en quelques minutes, et des outils comme Mellea-LRC peuvent vérifier ses citations à peu près en même temps. La variable restante est de savoir si les entreprises font de cette vérification une étape obligatoire – avant le dépôt et non après la sanction.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
