Poiché i documenti legali sono sempre più redatti con modelli linguistici di grandi dimensioni, le citazioni falsificate sono diventate un vero problema per i tribunali e gli avvocati che compaiono davanti ad essi. I ricercatori della Georgia Tech hanno creato uno strumento open source progettato per catturare quei riferimenti inventati prima che raggiungano un giudice.
Lo strumento, chiamato Mellea Legal Requisiti Checker (Mellea-LRC), può identificare e verificare le citazioni della giurisprudenza, con un focus specifico sulle citazioni allucinate dall’intelligenza artificiale. È stato creato attraverso un programma di borse di studio presso il Center for Scientific Software Engineering (CSSE) della Georgia Tech e l'Open Source Program Office (OSPO), finanziato da una donazione di IBM, secondo l'annuncio dell'università. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Gli studenti del master Adrian Lozada e Di Wu sono stati selezionati come borsisti per costruire lo strumento con mentori di CSSE e OSPO. Il loro obiettivo, ha affermato l'università, era quello di fornire agli avvocati e ad altri operatori del settore legale un modo semplice per verificare le citazioni legali.
Come funziona
Mellea-LRC combina modelli linguistici di grandi dimensioni con il framework open source Mellea di IBM, che è costruito attorno a un paradigma "istruisci, verifica, ripara": gli sviluppatori scrivono le regole che l'output di un LLM deve soddisfare come codice ordinario e il framework ritenta le chiamate del modello finché l'output non le soddisfa.
"Il framework Mellea di IBM è stato il fondamento su cui lo abbiamo costruito. Il compito di Mellea è rendere prevedibili le chiamate del modello: si scrivono le regole che l'output deve soddisfare come codice ordinario e il framework riprova finché l'output LLM non le soddisfa. Il nostro compito era sfruttare il framework per costruire l'applicazione legale da un capo all'altro", ha affermato Wu nell'annuncio.
Lo strumento elabora un documento in circa otto minuti. Innanzitutto estrae le citazioni della giurisprudenza da un documento legale, quindi verifica che ciascuna citazione sia autentica e che supporti effettivamente il contenuto del documento: la seconda parte è ciò che distingue una citazione allucinata da una semplicemente falsa. Un caso inventato che non esiste fallisce il primo controllo; un caso reale che non dice ciò che il deposito afferma non soddisfa il secondo.
Testato rispetto a documenti reali fabbricati
Il team ha valutato Mellea-LRC su 26 documenti pubblici depositati in tribunale noti per contenere citazioni falsificate, la stessa classe di incidenti che ha attirato sanzioni e controlli nei tribunali man mano che le memorie redatte da AI si sono diffuse.
Il problema degli obiettivi Mellea-LRC è ben documentato: i LLM generano nomi di casi, citazioni e citazioni dall'aspetto plausibile che non corrispondono a nessun precedente reale e gli avvocati hanno dovuto affrontare sanzioni dopo aver presentato tali documenti senza controllarli.
Open Source in base alla progettazione
Un requisito fondamentale del progetto era che il codice dello strumento fosse open source. Oltre allo strumento, il team ha rilasciato un nuovo set di dati di test e convalida su Hugging Face per futuri studi di benchmarking.
"L'IA agentica sta crescendo rapidamente e gran parte della crescita avviene in progetti open source, dove chiunque può leggere, utilizzare e migliorare il lavoro", ha affermato Lozada.
Jeff Young, direttore dell'OSPO e principale ricercatore presso la Georgia Tech, ha affermato che il framework Mellea di IBM è stato fondamentale per il lavoro perché il suo approccio "istruire, verificare, riparare" consente la creazione di cicli LLM affidabili.
L'architettura dietro un output affidabile
Ciò che rende notevole l’approccio Mellea è dove pone l’onere dell’affidabilità. La maggior parte delle strategie di mitigazione delle allucinazioni richiedono al modello stesso di essere più attento, attraverso suggerimenti, perfezionamenti o miglioramenti nel recupero. Mellea-LRC lo inverte: i requisiti di correttezza risiedono nel codice ordinario al di fuori del modello e il framework continua a richiamare il modello finché l'output non li soddisfa in modo dimostrabile.
Questo disegno ha due conseguenze pratiche. In primo luogo, la logica di verifica è verificabile: un avvocato o un tribunale possono leggere esattamente quali regole deve passare una citazione, invece di fidarsi di un modello di giudizio opaco. In secondo luogo, lo stesso modello si generalizza al di là delle citazioni legali a qualsiasi ambito in cui gli output possono essere controllati meccanicamente, che è proprio la proprietà che ha reso i framework agentici attraenti per gli sviluppatori aziendali.
Vale la pena notare anche la struttura delle borse di studio. Invece di un laboratorio aziendale chiuso, il progetto ha riunito due studenti del master, tutoraggio di CSSE e OSPO e finanziamenti IBM attorno a un problema di verifica ristretto e ben definito e ha prodotto uno strumento di lavoro oltre a un set di dati di riferimento pubblico.
Perché è importante per il settore legale
I tribunali sono diventati un punto critico per i problemi di affidabilità dell’IA. Il flusso di lavoro di verifica automatizzato da Mellea-LRC (confermare l'esistenza di una citazione e controllare che dica ciò che afferma il redattore) è esattamente il passaggio di diligenza che i revisori umani saltano quando le scadenze sono strette.
Un tempo di elaborazione di otto minuti per documento rende pratico l'esecuzione prima dell'archiviazione, piuttosto che come esercizio forense dopo che un giudice ha segnalato un caso inesistente. E poiché sia lo strumento che il suo set di dati di valutazione sono open source, altri team possono verificarne il funzionamento, estenderlo ad altre giurisdizioni e formati di citazioni e valutare miglioramenti, un approccio che contrasta con i sistemi di controllo delle allucinazioni chiusi e proprietari.
Il progetto segnala anche dove si stanno dirigendo gli strumenti di intelligenza artificiale aziendale: invece di cercare di rendere i modelli meno allucinanti, team come quello di Georgia Tech stanno costruendo livelli di verifica attorno ad essi, utilizzando regole strutturate e tentativi automatizzati per rendere l’output del modello sufficientemente prevedibile per le professioni ad alto rischio.
Per il settore legale il calcolo è semplice. L’intelligenza artificiale può redigere un brief in pochi minuti e strumenti come Mellea-LRC possono controllarne le citazioni più o meno nello stesso tempo. La variabile rimanente è se le aziende rendono questo controllo un passaggio obbligatorio – prima della presentazione della domanda, e non dopo la sanzione.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
