I rappresentanti di OpenAI e Meta Platforms hanno dichiarato giovedì a una commissione giudiziaria federale che i deepfake generati dall'intelligenza artificiale sono diventati così avanzati che verificare l'autenticità delle prove audio e video in tribunale diventerà sempre più difficile, ha riferito Reuters.

Gli esperti di tecnologia hanno presentato le loro preoccupazioni in una riunione a Boston del Comitato consultivo sulle regole sulle prove della Conferenza giudiziaria degli Stati Uniti, l'organismo responsabile di raccomandare modifiche alle regole federali che governano quali tribunali sulle prove possono ammettere. Il comitato lavora dal 2023 su come affrontare i rischi delle prove generate dall’intelligenza artificiale nelle aule di tribunale. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.

I laboratori di intelligenza artificiale affermano che il rilevamento non ha futuro scientifico

Shira Anderson, consulente politico di OpenAI, ha detto al comitato che le immagini AI continuano a migliorare in termini di qualità e ha affermato di non credere che in futuro esisterà un metodo scientifico per rilevarle: un'ammissione sorprendente da parte di un'azienda che costruisce sistemi generativi che producono quel contenuto.

Devin Norder, direttore della gestione dei prodotti presso Meta, ha dichiarato al panel che i media creati dai recenti modelli di intelligenza artificiale non possono essere distinti dagli esseri umani dai contenuti autentici e che la creazione di tali media ora richiede costi e tempi minimi.

Entrambe le società hanno sviluppato strumenti di provenienza e verifica per i contenuti visivi e le nuove leggi in California e nell'Unione Europea richiedono la filigrana dei media generati dall'intelligenza artificiale. Ma Anderson ha avvertito il comitato che ogni azienda utilizza il proprio sistema, il che significa che non esiste un metodo universale per rilevare in modo affidabile tutte le filigrane o verificare l’autenticità dei contenuti visivi nell’ecosistema.

I tribunali non hanno ancora avvertito l'onda

Il presidente della commissione, il giudice distrettuale americano Jesse Furman di Manhattan, ha offerto un contrappeso all'allarme: mentre i commenti accademici prevedono che i tribunali si occuperanno dei deepfake, la questione non è ancora apparsa frequentemente nei casi reali.

Un sondaggio condotto dal Centro giudiziario federale a marzo ha sottolineato questa lacuna. Solo 15 dei 931 giudici che hanno risposto si erano imbattuti in un caso in cui una parte aveva contestato le prove sulla base del fatto che si trattava di un deepfake.

Questo divario tra previsione e pratica è il dilemma centrale del comitato. Secondo le Federal Rules of Evidence 901 e 902, lo standard esistente per l'autenticazione delle prove è - come afferma il rapporto dello stesso comitato - blando: una parte deve solo produrre prove sufficienti a supportare la conclusione che l'oggetto è ciò che il proponente afferma che sia. I deepfake sottopongono a stress questo standard, perché i percorsi tradizionali per l'autenticazione delle registrazioni (testimonianze, documentazione di sistema) presuppongono che la falsificazione su larga scala sia difficile, costosa e rilevabile.

Il rapporto stesso della commissione ha inquadrato il problema con insolita schiettezza. Il suo rapporto del dicembre 2025 ha esaminato cosa succede quando un video o un audio offerto al processo è un deepfake, concludendo che rappresenta una sfida diretta ai requisiti di autenticità previsti dalle regole 901 e 902 proprio perché lo standard di autenticità esistente è blando. Come – e se – rafforzare tale standard è la questione che il comitato si pone da tre anni, e diventerà più urgente se, come hanno avvertito i rappresentanti del laboratorio, la scienza del rilevamento non riuscirà mai a raggiungere la scienza della generazione.

Cosa possono fare ora i professionisti

Fino a quando le regole non cambieranno, l’onere pratico ricadrà sui litiganti e sui giudici di merito. Gli strumenti di provenienza (credenziali di contenuto crittografico incorporate al momento della creazione) si stanno diffondendo attraverso le app della fotocamera e il software creativo, sebbene siano utili solo per i media che li trasportano. Le difese attuali sono il controinterrogatorio sotto giuramento della persona che ha catturato una registrazione, le richieste di scoperta di file originali e metadati di generazione e un esame più attento delle clip prive di fonti che circolano sulle piattaforme social. Il messaggio del comitato consultivo di questa settimana è stato effettivamente che questi rimedi avranno bisogno di un fondamento formale a livello di regole, perché quelle informali presuppongono una rilevabilità che secondo OpenAI e Meta non esiste più.

Perché la testimonianza dei laboratori è importante

È interessante notare che le aziende i cui prodotti creano rischi sono quelle che avvertono la magistratura al riguardo. OpenAI e Meta hanno interessi commerciali e reputazionali diretti su come vengono applicate le regole: requisiti di autenticazione rigorosi potrebbero imporre attriti sugli usi legittimi dei media basati sull’intelligenza artificiale, mentre quelli permissivi potrebbero rendere i loro strumenti vettori di frodi in tribunale. Il loro messaggio al comitato è stato effettivamente che gli standard di provenienza – filigrana, credenziali di contenuto, documentazione della catena di custodia – sono la strada praticabile, perché il rilevamento da solo non è sufficiente.

Si prevede che la revisione triennale del comitato dirà se le norme federali sulle prove necessitano di modifiche per l’era dell’intelligenza artificiale. Qualsiasi cambiamento passerebbe attraverso il processo normativo della Conferenza giudiziaria, compresi i commenti pubblici, prima di passare al Congresso.

Il quadro normativo più ampio

L’udienza si svolge nel mezzo di un’esplosione di attività politica legata al deepfake. La California e l’UE hanno emanato mandati di filigrana. La Danimarca ha avanzato una legislazione che vieta la condivisione di deepfake basati sull’intelligenza artificiale senza consenso. I tribunali statunitensi hanno già visto emergere falsificazioni generate dall’intelligenza artificiale nei documenti depositati e i giudici hanno sanzionato gli avvocati per aver presentato citazioni false generate dai chatbot.

Per ora, la magistratura federale sta preferendo uno studio attento ai rapidi cambiamenti delle regole. Ma la testimonianza delle aziende che costruiscono la tecnologia suggerisce che l’industria stessa non si aspetta che gli strumenti di rilevamento tengano il passo, il che sposta l’onere verso gli standard di provenienza, le garanzie procedurali come i requisiti di testimonianza dal vivo e, in definitiva, il giudizio di giudici e giurie su cosa credere.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →