La Corte Suprema del New Mexico ha sanzionato un avvocato per aver presentato un ricorso per omicidio basato su testimoni mai esistiti - fabbricato all'ingrosso da ChatGPT - in uno degli esempi più crudi di "allucinazioni" di intelligenza artificiale che hanno raggiunto il cuore del sistema giudiziario americano.

Secondo un rapporto della Reuters, la più alta corte dello stato ha multato l'avvocato di Santa Fe Stephen Aarons di 5.000 dollari e lo ha disprezzato per non aver "verificato le affermazioni fattuali e l'autorità legale nella sua memoria generata dall'intelligenza artificiale". La memoria, presentata come parte di un appello contro la condanna per omicidio del suo cliente, "conteneva false testimonianze di testimoni interamente inventate", insieme a false affermazioni sull'abbigliamento e sull'aspetto dell'assassino. Per ulteriori informazioni su questa storia, consulta le nostre ultime notizie sull'intelligenza artificiale.

Cosa ha riscontrato la Corte

La documentazione della corte non descrive piccole inesattezze. Descriveva un documento d'appello che evocava persone dal nulla: testimonianze attribuite a testimoni che non esistono, e dichiarazioni inventate della polizia su cosa indossava l'assassino e che aspetto aveva - esattamente il tipo di dettaglio fattuale che una condanna per omicidio può generare.

Secondo The Verge, che ha riportato la documentazione del tribunale, la sanzione è stata imposta perché Aarons non è riuscito a "verificare le affermazioni fattuali e l'autorità legale nella sua memoria generata dall'intelligenza artificiale" prima di presentarla alla corte. In altre parole, il problema non era che un avvocato utilizzasse uno strumento di intelligenza artificiale per aiutarlo nella stesura. Il fatto è che l'avvocato ha presentato la documentazione senza verificare una sola affermazione inventata rispetto al vero verbale del processo.

"Avvocato, guarda le notizie?"

La natura straordinaria del caso è emersa in un'udienza di agosto, in cui Aarons ha ammesso di aver utilizzato ChatGPT e ha detto alla corte che si aspettava che il chatbot producesse un "riepilogo a prova di bomba" del processo. Questa aspettativa ha suscitato una risposta pungente da parte del giudice della Corte Suprema del New Mexico C. Shannon Bacon.

"Avvocato, guarda le notizie? Ascolti la radio? Leggi qualcosa su quello che succede nel mondo?" si è chiesto Bacon, secondo la Reuters. "Perché il problema con gli avvocati che si affidano alle allucinazioni dell'intelligenza artificiale è una storia sopra le righe ogni singolo giorno."

Il rimprovero della giustizia ha colto la misura in cui le citazioni e le testimonianze fabbricate dall'intelligenza artificiale sono passate da un problema tecnico di nicchia a una responsabilità professionale tradizionale - una responsabilità che i giudici ora presumono che ogni avvocato praticante dovrebbe conoscere.

L'ultima di una serie di sanzioni contro l'IA

Il caso del New Mexico è l’ultimo di una lista in rapida crescita di tribunali che puniscono gli avvocati per l’uso incontrollato dell’intelligenza artificiale. L'anno scorso, un giudice ha criticato due studi legali per aver presentato una memoria contenente "numerose citazioni e citazioni legali false, imprecise e fuorvianti", mentre gli avvocati che rappresentano il fondatore di MyPillow Mike Lindell sono stati anche multati per aver incluso citazioni errate generate dall'intelligenza artificiale e citazioni false in un atto giudiziario, ha osservato The Verge.

Ciò che distingue la sanzione del New Mexico è il materiale che è stato fabbricato. La maggior parte dei casi precedenti riguardava citazioni legali inventate: precedenti falsi, citazioni fasulle di casi reali. In questo caso, la fabbricazione è andata ai fatti stessi: testimoni, testimonianze e descrizioni di prove fisiche in un appello penale. Questa distinzione è importante, perché la fabbricazione dei fatti in un caso di omicidio colpisce il nocciolo di ciò che il riesame d'appello esiste per proteggere.

La linea di tendenza è inconfondibile. Come ha osservato The Verge, con l’aumento del numero di avvocati che utilizzano strumenti di intelligenza artificiale nel loro lavoro, aumentano anche i casi in cui un tribunale scopre citazioni fabbricate – o allucinate – dall’intelligenza artificiale. Ciò che una volta era considerato una svista imbarazzante viene sempre più punito come un fallimento della competenza professionale, con multe, sentenze di oltraggio e controllo da parte delle autorità disciplinari.

"Sono pentito"

Aarons, da parte sua, ha detto a Reuters che spera che le conseguenze si interrompano prima della disciplina professionale. "Sono dispiaciuto ma spero che il comitato disciplinare tenga conto che si è trattato di un errore onesto", ha detto in una nota.

Resta da vedere se il comitato disciplinare lo considererà un errore onesto, ma la più alta corte dello stato ha già chiarito il proprio punto di vista: una multa di 5.000 dollari e un oltraggio a un mandato che non è mai stato verificato rispetto alla realtà.

Perché è importante

Il caso arriva mentre i tribunali di tutto il paese stanno rafforzando le loro posizioni sull’uso dell’intelligenza artificiale nei contenziosi. I giudici richiedono sempre più spesso agli avvocati di certificare che i documenti generati dall’intelligenza artificiale siano stati verificati e le sanzioni sono diventate il meccanismo di applicazione visibile. È probabile che il messaggio della Corte Suprema del New Mexico viaggi ben oltre i suoi confini: il dovere di verifica è personale, non delegabile e non scompare perché un chatbot ha prodotto una prosa che suona fiduciosa.

Per la professione legale, il calcolo sta cambiando. Gli strumenti di redazione dell’intelligenza artificiale possono far risparmiare ore di lavoro, ma un singolo testimone inventato in una memoria depositata può ora costare una multa, una sentenza di oltraggio e un rinvio alle autorità disciplinari: un mestiere che pochi professionisti troveranno attraente. Per tutti gli altri, il caso ricorda che le persone destinate a controllare i risultati dell’intelligenza artificiale sono più che mai sotto pressione affinché li controllino effettivamente.

La posta in gioco è più alta nei casi penali. Le sanzioni per le citazioni false fanno perdere tempo ai giudici; le prove fabbricate in un appello per omicidio toccano il meccanismo che decide se una condanna è valida. Una corte d’appello può solo valutare affermazioni ancorate alla realtà – e un breve insieme di testimoni fantasma chiede ai giudici di pronunciarsi su eventi che non sono mai accaduti.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →