Una corte d'appello dell'Arizona ha annullato una condanna per omicidio perché il giudice del processo ha guardato un video generato dall'intelligenza artificiale in cui la vittima, ricreata dalle registrazioni di famiglia, sembrava perdonare il suo assassino dall'oltretomba.
Gabriel Paul Horcasitas è stato condannato da una giuria per aver sparato e ucciso Christopher Pelkey, 37 anni, durante uno scontro stradale al semaforo rosso nel 2021, ed è stato condannato a 10 anni di prigione. Ma il suo team legale ha presentato ricorso, sostenendo che al giudice della sentenza non avrebbe mai dovuto essere mostrato un video AI di Pelkey che la sua famiglia aveva creato e mostrato in tribunale prima della sentenza dell’anno scorso. La Corte d'Appello dell'Arizona ha concordato, stabilendo questa settimana che Horcasitas, 55 anni, deve essere sottoposto a nuova sentenza perché la clip "ha oltrepassato quel limite", come ha riferito la BBC.
La sentenza è il test più significativo finora su come il sistema giudiziario americano tratterà i media sintetici – e stabilisce un indicatore del fatto che anche le ricreazioni di intelligenza artificiale emotivamente potenti possono costare a un’accusa il suo risultato preferito. Per una copertura continua sulla regolamentazione dell'IA e sui tribunali, segui i nostri ultimi sviluppi sull'IA.
Il video che ha commosso un'aula di tribunale
Il video è stato opera della famiglia di Pelkey, che ha utilizzato le sue registrazioni vocali, i video amatoriali e le fotografie per ricrearlo: una controfigura digitale che indossa un berretto da baseball grigio, pronunciando una dichiarazione che il vero uomo non è mai vissuto abbastanza da dare.
"Per Gabriel Horcasitas, l'uomo che mi ha sparato, è un peccato che ci siamo incontrati quel giorno in quelle circostanze", ha detto alla corte nel 2025 la versione AI di Pelkey. "In un'altra vita, probabilmente avremmo potuto essere amici."
La ricreazione andava oltre, offrendo il perdono in termini esplicitamente spirituali. "Credo nel perdono e in un Dio che perdona. L'ho sempre fatto e lo faccio ancora", ha continuato Pelkey, generato dall'intelligenza artificiale.
La sorella di Pelkey, Stacey Wales, ha detto alla BBC l'anno scorso che la famiglia ha costruito il video partendo dalla sua voce e somiglianza registrate. All’epoca, il giudice della sentenza sembrò accoglierlo con favore. "Ho amato quell'intelligenza artificiale, grazie per questo", ha detto il giudice Todd Lang, aggiungendo: "Per quanto tu sia arrabbiato, per quanto giustamente arrabbiata sia la famiglia, ho sentito il perdono... sento che era genuino".
Perché è intervenuta la Corte d'Appello
La Corte d'Appello dell'Arizona ha visto lo stesso video in modo molto diverso. "Piuttosto che documentare un evento o registrare un momento particolare, il video AI presenta una rappresentazione della vittima e dei suoi pensieri creati dall'immaginazione della sorella della vittima", ha scritto la commissione nella sua sentenza di mercoledì.
Questa distinzione – tra documentare ciò che è accaduto e sintetizzare ciò che avrebbe potuto essere – è la linea di faglia legale che si sta ora aprendo attorno all’intelligenza artificiale generativa nelle aule di tribunale. Una dichiarazione sull'impatto della vittima è stata tradizionalmente l'unica parte di un procedimento penale in cui le emozioni e la voce personale hanno libero sfogo. La preoccupazione della corte è che una ricreazione dell'intelligenza artificiale consegni quella fessura a un'invenzione, per quanto costruita con amore, e lasci la difesa incapace di interrogare le parole che il defunto non ha mai pronunciato.
Nessuna delle due parti ha commentato la sentenza. L'avvocato di Horcasitas, Kristen Reller, che ha presentato l'appello, ha rifiutato di commentare, e Jessica Gattuso, un avvocato delle vittime nel caso, non ha risposto a una richiesta di commento, secondo la BBC.
Un caso di prova per l'intelligenza artificiale nel sistema giudiziario
I tribunali di tutto il mondo stanno appena iniziando a confrontarsi con l’intelligenza artificiale generativa. I giudici hanno sanzionato gli avvocati per aver presentato citazioni relative ad allucinazioni legate all'intelligenza artificiale e nei processi penali sono emerse prove deepfake. Ma questo caso è insolito perché i media sintetici sono stati introdotti non per ingannare, ma per umanizzare – ed è stata l’empatia della fabbricazione che si è rivelata legalmente fatale.
La posta in gioco corre in entrambe le direzioni. I sostenitori delle vittime sostengono che le famiglie dovrebbero essere libere di commemorare i propri cari come preferiscono e che la famiglia di Pelkey ha trovato un modo per esprimere il perdono che contava per loro. Gli avvocati della difesa vedono un problema di giusto processo: il giudice di una giuria è stato commosso da una performance scritta dal dolore e generata da un modello, che avrebbe potuto plausibilmente influenzare la gravità della sentenza.
La corte d'appello ha tracciato la sua linea in modo stretto ma chiaro. Le prove dell'impatto della vittima possono includere registrazioni della persona reale; non può includere una simulazione AI dei pensieri della persona, assemblata dall'immaginazione e resa nel suo volto e nella sua voce.
Cosa succede dopo
Horcasitas subirà una nuova condanna, questa volta senza il video dell'intelligenza artificiale. La condanna stessa è valida: l'obiezione della corte d'appello riguardava il procedimento di condanna, non il verdetto della giuria sull'omicidio del 2021.
La domanda più ampia è ora direttamente di fronte a tribunali e parlamenti: quando una famiglia può ottenere una performance digitale convincente dalle registrazioni, quali regole impediscono al dolore sintetico di influenzare le decisioni che cambiano la vita? La risposta dell'Arizona, per ora, è che i morti non parlano in tribunale, anche quando la tecnologia può far sembrare che lo facciano.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
