I takt med att juridiska dokument i allt större utsträckning utarbetas med stora språkmodeller har förfalskade citat blivit ett verkligt problem för domstolar och de advokater som framträder inför dem. Georgia Tech-forskare har byggt ett verktyg med öppen källkod utformat för att fånga de påhittade referenserna innan de når en domare.
Verktyget, som kallas Mellea Legal Requirements Checker (Mellea-LRC), kan identifiera och verifiera rättspraxiscitat, med ett specifikt fokus på citat hallucinerade av AI. Det skapades genom ett stipendieprogram vid Georgia Techs Center for Scientific Software Engineering (CSSE) och Open Source Program Office (OSPO), finansierat av en donation från IBM, enligt universitetets tillkännagivande. For more context on this story, see our ongoing artificial intelligence updates.
Masterstudenterna Adrian Lozada och Di Wu valdes ut som stipendiater för att bygga verktyget med mentorer från CSSE och OSPO. Deras mål, sade universitetet, var att ge advokater och andra inom det juridiska området ett enkelt sätt att verifiera juridiska citat.
Hur det fungerar
Mellea-LRC kombinerar stora språkmodeller med IBMs Mellea open-source ramverk, som är byggt kring ett "instruera, verifiera, reparera" paradigm: utvecklare skriver reglerna som en LLM:s utdata måste uppfylla som vanlig kod, och ramverket försöker modellanrop igen tills utdatan möter dem.
"IBM:s Mellea-ramverk var grunden vi byggde det på. Melleas jobb är att göra modellanrop förutsägbara: du skriver reglerna som utdata måste uppfylla som vanlig kod, och ramverket försöker igen tills LLM-utdata möter dem. Vårt jobb var att utnyttja ramverket för att bygga den juridiska applikationen från ände till slut", säger Wu i tillkännagivandet.
Verktyget bearbetar ett dokument på cirka åtta minuter. Den extraherar först rättspraxiscitat från en juridisk ansökan, verifierar sedan att varje citat är autentiskt och att det faktiskt stöder dokumentets innehåll – den andra delen är det som skiljer ett hallucinerat citat från ett rent falskt. Ett påhittat fall som inte finns klarar den första kontrollen; ett verkligt fall som inte säger vad ansökan hävdar misslyckas med det andra.
Testad mot äkta tillverkad fil
Teamet utvärderade Mellea-LRC på 26 offentliga domstolshandlingar som är kända för att innehålla förfalskade citat - samma klass av incidenter som har dragit på sig sanktioner och granskning i domstolar som AI-utkast har spridits.
Problemet Mellea-LRC riktar sig mot är väldokumenterat: LLM:er genererar rimliga ärendenamn, citat och citat som inte motsvarar något verkligt prejudikat, och advokater har utsatts för straff efter att ha skickat in sådana anmälningar utan att kontrollera dem.
Open Source by Design
Ett kärnkrav i projektet var att verktygets kod var öppen källkod. Vid sidan av verktyget släppte teamet en ny test- och valideringsdatauppsättning på Hugging Face för framtida benchmarkingstudier.
"Agentic AI växer snabbt, och mycket av tillväxten sker i projekt med öppen källkod, där alla kan läsa, använda och förbättra arbetet," sa Lozada.
Jeff Young, OSPO-direktör och huvudforskare vid Georgia Tech, sa att IBMs Mellea-ramverk var avgörande för arbetet eftersom dess tillvägagångssätt "instruera, verifiera, reparera" tillåter skapandet av tillförlitliga LLM-loopar.
Arkitekturen bakom tillförlitlig utdata
Det som gör Mellea-metoden anmärkningsvärd är var den placerar bördan av tillförlitlighet. De flesta strategier för att lindra hallucinationer ber modellen själv att vara mer försiktig - genom uppmaning, finjustering eller förstärkning av hämtning. Mellea-LRC inverterar att: korrekthetskraven lever i vanlig kod utanför modellen, och ramverket fortsätter att anropa modellen tills utdata bevisligen uppfyller dem.
Den designen har två praktiska konsekvenser. För det första kan verifieringslogiken granskas - en advokat eller en domstol kan läsa exakt vilka regler ett citat måste passera, snarare än att lita på en ogenomskinlig modellbedömning. För det andra, samma mönster generaliserar bortom juridiska hänvisningar till alla domäner där utdata kan kontrolleras mekaniskt, vilket är just den egenskap som har gjort agentiska ramverk attraktiva för företagsutvecklare.
Gemenskapsstrukturen är också värd att notera. I stället för ett stängt företagslabb satte projektet två masterstudenter, mentorskap från CSSE och OSPO, och IBM-finansiering samman runt ett smalt, väldefinierat verifieringsproblem – och producerade ett arbetsverktyg plus en offentlig referensdatauppsättning.
Varför det är viktigt för den juridiska industrin
Domstolar har blivit en flampunkt för AI-tillförlitlighetsproblem. Det verifieringsarbetsflöde som Mellea-LRC automatiserar – att bekräfta att ett citat finns och att kontrollera att det står vad författaren hävdar – är exakt det steg som mänskliga granskare hoppar över när deadlines är snäva.
En åtta minuters handläggningstid per dokument gör det praktiskt att köra innan arkivering, snarare än som en rättsmedicinsk övning efter att en domare flaggat ett obefintligt fall. Och eftersom både verktyget och dess utvärderingsdatauppsättning är öppen källkod kan andra team granska hur det fungerar, utvidga det till ytterligare jurisdiktioner och citeringsformat och riktmärka förbättringar – ett tillvägagångssätt som står i kontrast till slutna, proprietära hallucinationskontroller.
Projektet signalerar också vart företagens AI-verktyg är på väg: snarare än att försöka få modeller att hallucinera mindre, bygger lag som Georgia Techs verifieringslager runt dem, med hjälp av strukturerade regler och automatiska omförsök för att göra modellutdata tillräckligt förutsägbara för yrken med hög insats.
För den juridiska branschen är kalkylen okomplicerad. AI kan skriva ett kort på några minuter, och verktyg som Mellea-LRC kan kontrollera sina citat på ungefär samma tid. Den återstående variabeln är om företagen gör den kontrollen till ett obligatoriskt steg - före ansökan, inte efter sanktionen.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
