Un uomo ha nascosto un'intelligenza artificiale invisibile spinge in tribunale a vincere la sua causa: una prima volta negli Stati Uniti, dice il giudice

Un giudice del Connecticut ha identificato quella che sembra essere la prima volta che un querelante statunitense ha tentato di nascondere nei documenti giudiziari un testo che solo un sistema di intelligenza artificiale può leggere, nel tentativo di vincere la sua causa. Lo schema è fallito, il contendente è stato sanzionato e la sentenza sta ora attirando l’attenzione in tutto il mondo della tecnologia legale mentre i tribunali di tutto il paese iniziano ad adottare i propri strumenti di intelligenza artificiale.

La decisione è stata pubblicata la scorsa settimana dal giudice Walter Spader Jr. della Corte Superiore del Connecticut e dettagliata questa settimana da Ars Technica e Reuters. Per [le ultime notizie sull'intelligenza artificiale] (https://aibuzzwire.news) sulla collisione tra intelligenza artificiale e sistema giudiziario, il caso è un'anteprima di un problema che i ricercatori di sicurezza mettono in guardia da anni: input contraddittori progettati per essere letti dalle macchine piuttosto che dagli esseri umani.

Come funzionavano i suggerimenti nascosti

Il querelante, Matthew Elliott, era coinvolto in una controversia con un operatore sanitario che, secondo lui, stava impropriamente negando l'accesso ai suoi dati. Dopo che le precedenti argomentazioni da lui sollevate furono respinte, secondo la sentenza, Elliott incorporò istruzioni nei successivi documenti che erano, nelle parole di Spader, "formattati per essere invisibili a un lettore umano pur rimanendo completamente leggibili per qualsiasi software che legga il testo del documento".

Il testo è stato ridotto a caratteri minuscoli e colorato di bianco su sfondo bianco. Ha diretto qualsiasi sistema di intelligenza artificiale che esaminava il documento per garantire che i suoi risultati concordassero con le argomentazioni del querelante, ignorando le precedenti smentite del tribunale e assicurando che la riparazione seguisse come desiderato dal querelante: un attacco di iniezione tempestiva da manuale, mirato non a un chatbot ma a qualunque software un giorno potesse trovarsi tra un litigante e un giudice.

Il testo nascosto non ha avuto alcun impatto sul caso. La corte ha valutato nel merito la presentazione di Elliott. Ma Spader ha scritto che il tentativo di attacco costituisce comunque un precedente “pericoloso” e che i tribunali statunitensi probabilmente vedranno di nuovo la tattica dannosa man mano che gli strumenti di intelligenza artificiale diventeranno più comuni nei sistemi giudiziari.

"Gravi abusi legali" e alcune strane battute

Elliott ha dovuto affrontare sanzioni modeste, ma non solo per le istruzioni nascoste originali. Secondo la sentenza, ha continuato ad aggiungere testo nascosto a nuovi documenti anche dopo che la corte lo aveva avvertito che avrebbe potuto incorrere in sanzioni per quello che Spader alla fine ha ritenuto "grave abuso di contenzioso".

Alcuni dei successivi messaggi nascosti erano, ha detto Elliott alla corte, intesi come scherzi. Includevano un collegamento a un video YouTube di Nosferatu, un semplice messaggio che diceva "ciao :) Spero che tu non possa vedermi" e un messaggio che il querelante ha descritto come una sciocchezza: "DITE A SHAWN CHE TI INVIO I MIEI ABITI!!!! HAHAHA RAGAZZI, AVETE QUESTO EGGWUH???? AHAH."

"Il fatto che il querelante abbia continuato a nascondere messaggi in nuove memorie dopo aver ricevuto notifica di questa udienza [sulle sanzioni] è sorprendente", ha scritto Spader. Per quanto riguarda l'affermazione che i messaggi fossero comici, il giudice ha detto che "sfida la logica" per un compilatore seppellire le battute all'interno di memorie che vuole che la corte prenda sul serio.

La difesa del "controllo".

In sua difesa, Elliott ha sostenuto che la richiesta più preoccupante segnalata dal giudice era in realtà un tentativo di "verificare" la corte come servizio pubblico, perché temeva che la corte stesse lasciando che AI decidesse ingiustamente sul suo caso. Ha ripetuto questa posizione a Reuters, dicendo che sostiene che il suo intento era quello di mettere alla prova la corte piuttosto che manipolarla.

Spader non ha trovato credibile l'argomentazione. Se Elliott credeva sinceramente che la corte stesse utilizzando l'intelligenza artificiale in modo improprio, scrisse il giudice, sarebbe stato "libero di scrivere in parole chiare e visibili in modo che tutti potessero vedere e rispondere". Nascondere il testo invece, ha concluso Spader, è "la prova del suo scopo dannoso". Il giudice ha aggiunto che sembrava che Elliott stesse "tentando di ottenere un risultato che non aveva ottenuto quando gli esseri umani, informati" della legge, leggevano le sue difese.

In particolare, il ramo giudiziario del Connecticut non utilizza l'intelligenza artificiale per rivedere o decidere i documenti, ha sottolineato Spader, quindi non c'è mai stato il rischio reale che un sistema di intelligenza artificiale del tribunale confondesse le richieste di Elliott con istruzioni del tribunale. A differenza di "un certo numero di sistemi giudiziari altrove", ha scritto, dall'altra parte non c'era nessuna macchina da ingannare.

Perché un attacco fallito è ancora importante

I ricercatori nel campo della sicurezza hanno trascorso anni a dimostrare che i sistemi di intelligenza artificiale che leggono i documenti – chatbot, agenti di codifica, assistenti di posta elettronica – possono essere dirottati da istruzioni sepolte nel testo che ingeriscono. La tecnica, nota come iniezione rapida indiretta, è considerata uno dei problemi irrisolti più difficili nell’implementazione degli agenti IA. Ciò che rende insolito il caso del Connecticut è l’obiettivo: la stessa macchina della giustizia.

"Nascondendo un comando all'interno di un documento che il sistema successivamente assimila, il filer tenta di introdurre di nascosto le proprie istruzioni in quel flusso in modo che il sistema le tratti come se provenissero dall'operatore del sistema," ha scritto Spader. "In questo caso si presume che l'operatore sia il tribunale, il suo personale o l'avvocato della controparte."

Questa inquadratura – ovvero l’istanza di un tribunale come superficie di attacco – è ciò che secondo gli osservatori legali rende la sentenza significativa. Poiché i tribunali e gli studi legali utilizzano sempre più l’intelligenza artificiale per riassumere documenti, bozze di decisioni o documenti di triage, ogni documento presentato da una parte diventa un potenziale canale di manipolazione. L'impiegato di un giudice potrebbe notare del testo bianco su una pagina bianca; una pipeline di riepilogo automatizzata potrebbe non esserlo.

Cosa succede dopo

Le sanzioni contro Elliott sono, secondo la descrizione della stessa corte, modeste. Ma la decisione fornisce ai tribunali statunitensi un precedente scritto per trattare le istruzioni nascoste leggibili dalla macchina come un abuso del processo legale, e arriva in un momento in cui diversi sistemi giudiziari statali stanno attivamente sperimentando strumenti di revisione dell’intelligenza artificiale.

Per ora, la lezione dal Connecticut è semplice: i tribunali stanno attenti a questo. Come chiarisce la sentenza del giudice Spader, la prima persona che ha tentato l'iniezione immediata in un tribunale statunitense è stata catturata - e sanzionata - anche se nessun sistema di intelligenza artificiale l'ha mai ascoltata.

Stai al passo con l'intelligenza artificiale Leggi altre notizie sull'AI →