Un nuovo studio condotto da scienziati informatici del MIT, pubblicato martedì su Nature Communications, fornisce una scoperta che potrebbe rimodellare il dibattito sul copyright dell’IA: man mano che i modelli di diffusione vengono addestrati su più dati, diventa sempre più impossibile ricondurre i loro risultati a qualsiasi parte specifica di materiale di formazione. I ricercatori chiamano il fenomeno “decadimento dell’attribuzione”. Per i lettori che seguono il mondo in rapida evoluzione dell’intelligenza artificiale generativa, l’articolo è uno dei risultati di ricerca più importanti trattati questa settimana da AI Buzz Wire.

L'articolo, intitolato "Gli output dei modelli di diffusione generativa sono spesso non attribuibili", è stato scritto da Zheng Dai e David K. Gifford, entrambi affiliati al Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT. La loro domanda centrale era apparentemente semplice: quando un modello generativo produce un’immagine, è possibile individuare nei dati di addestramento un elemento specifico responsabile di quell’output?

Cosa hanno scoperto i ricercatori

La risposta, sempre più spesso, è no. I ricercatori mostrano che l’attribuzione – definita come il compito di individuare parte dei dati di addestramento che possono essere ritenuti responsabili di un campione generato – “può diventare impossibile se un modello viene addestrato su un corpus di dati sufficientemente ampio”.

"Abbiamo scoperto che più dati vengono addestrati su un modello, meno attribuibili diventano i campioni generati, un fenomeno che d'ora in poi chiameremo decadimento dell'attribuzione", scrivono gli autori.

Per testare ciò, il team ha sviluppato una metodologia di "ablazione" che consente di rimuovere esempi di formazione specifici da un modello già addestrato senza costose riqualificazioni. Hanno quindi eseguito esperimenti ipotetici su larga scala: cosa genererebbe il modello se una particolare immagine, o l'intero lavoro di un creatore, non fosse mai stata nel set di addestramento?

In alcuni dei risultati più sorprendenti dello studio, i ricercatori hanno scoperto che per modelli addestrati su set di dati sufficientemente grandi, potevano rimuovere la Gioconda – o anche tutta l’opera di Leonardo da Vinci – e il modello poteva comunque riprodurre l’immagine o lo stile artistico. Nessun singolo elemento formativo era causalmente responsabile dell’output.

Perché è importante per le controversie sul copyright

I risultati finiscono nel mezzo di un campo di battaglia legale attivo. Modelli di diffusione come Midjourney e Stable Diffusion hanno attirato cause legali da parte di artisti che sostengono che le copie del loro lavoro nei dati di addestramento consentono ai sistemi di intelligenza artificiale di riprodurne l'output e lo stile.

In un caso di copyright in corso dal 2023, Andersen et al. contro Stability AI Ltd., i querelanti hanno cercato di costringere Midjourney a divulgare i set di dati utilizzati per addestrare i suoi modelli. Affermano che Midjourney ha costruito i suoi set di allenamento "raschiando immagini associate a nomi di artisti specifici con il preciso scopo di consentire al suo modello di imitare il contenuto espressivo di quegli artisti".

Lo studio del MIT suggerisce che stabilire tali collegamenti causali potrebbe essere tecnicamente impossibile su larga scala. Come ha osservato The Register, che per primo ha riportato i dettagli dello studio, la ricerca sembra rendere la regolamentazione dell’IA più difficile anziché più semplice, l’opposto di ciò che gli autori speravano quando hanno iniziato il lavoro.

La questione del fair use

Nel comunicato stampa del MIT, Gifford sostiene che i risultati vanno in entrambe le direzioni. Se gli output generati non hanno nulla a che fare con i singoli dati di addestramento, i modelli possono essere genuinamente creativi piuttosto che semplici copiatrici.

"Ciò solleva interrogativi sul fair use, sul fatto se i risultati stessi siano protetti da copyright come opere nuove e su come gli autori vengono ricompensati quando ciò che esce da un modello non è attribuibile a nulla su Internet", ha detto Gifford.

Le implicazioni si estendono oltre i generatori di immagini. I modelli di diffusione sono diventati l’architettura dominante per la generazione di media audiovisivi e sono sempre più utilizzati nelle applicazioni scientifiche, tra cui la modellazione della struttura delle proteine ​​e la scoperta terapeutica. Sono stati proposti anche strumenti di attribuzione per il disapprendimento automatico, il rilevamento dell'avvelenamento dei dati, l'interpretabilità dei modelli, i controlli di equità e la conformità alla privacy.

Un avvertimento per le startup con attribuzione

Lo studio lancia anche un avvertimento per il crescente settore degli strumenti di provenienza e verifica dei contenuti dell’intelligenza artificiale. I ricercatori hanno scoperto che l’attribuzione basata sulla somiglianza, ovvero la corrispondenza degli output generati con immagini di addestramento visivamente simili, produce false attribuzioni in regimi di dati di addestramento di grandi dimensioni.

In altre parole, uno strumento che afferma che “questa immagine AI proviene dal portfolio di quell’artista” potrebbe semplicemente essere sbagliato quando i modelli vengono addestrati su miliardi di immagini. Per le piattaforme, i tribunali e le autorità di regolamentazione che contano sull’attribuzione tecnica per risolvere le controversie sulla provenienza, i risultati del MIT suggeriscono che tale certezza potrebbe essere fuori dalla portata dei modelli su scala di frontiera.

Cosa verrà dopo

Si prevede che il documento venga citato nei contenziosi in corso e nei dibattiti politici, comprese le discussioni sui requisiti di trasparenza dell'EU AI Act e sulle proposte per i sistemi di compenso degli artisti. Se il decadimento dell’attribuzione vale per i modelli di produzione più grandi, potrebbe essere necessario riprogettare gli schemi di compensazione basati sulla tracciabilità dei risultati verso opere specifiche sulla base delle licenze collettive piuttosto che sul monitoraggio a livello di articolo.

Lo studio solleva anche un punto sottile per gli sviluppatori di intelligenza artificiale: l'inattribuibilità può effettivamente rafforzare le argomentazioni sul fair use per la formazione su dati protetti da copyright, minando allo stesso tempo la capacità degli artisti di dimostrare danni specifici derivanti dai singoli risultati. Entrambe le parti in lotta sul copyright troveranno qualcosa da utilizzare nei dati.

Stai al passo con l'intelligenza artificiale

Per ulteriori ricerche e analisi sull'intelligenza artificiale, visitare AI Buzz Wire per la copertura quotidiana del settore dell'intelligenza artificiale.

Leggi altre notizie sull'AI →