Nuovo materiale non oscurato nella causa sul copyright del New York Times contro OpenAI e Microsoft rivela una serie di sorprendenti ammissioni interne, tra cui un alto dirigente di Microsoft che descrive in privato le pratiche di formazione sull'intelligenza artificiale delle società come un furto e la stessa leadership di OpenAI che riconosce che il suo chatbot rappresenta una "minaccia esistenziale" per gli editori il cui lavoro lo ha addestrato.
Il documento, riportato da TechCrunch giovedì, arriva tre anni dopo la prima denuncia del Times, sostenendo che le aziende avevano violato la legge sul copyright addestrando modelli di intelligenza artificiale generativa sui suoi contenuti. Il materiale appena visibile descrive in dettaglio il modo in cui le società avrebbero ottenuto e utilizzato tali contenuti: aggirando i paywall senza essere rilevati, costruendo set di dati di addestramento tramite scraping di massa ed eliminando deliberatamente gli avvisi di copyright dai dati di addestramento. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Vale la pena notare l'avvertenza segnalata dallo stesso TechCrunch: gran parte delle nuove informazioni provengono dal brief del Times piuttosto che dai documenti sottostanti, che rimangono sigillati, e le citazioni sono presentate senza il loro contesto originale.
"Un ciclo fatale" per gli editori
Tra le rivelazioni più importanti ci sono i dati di Microsoft su ciò che il suo "motore di risposte" Copilot ha fatto per indirizzare il traffico verso il sito web del Times. Secondo il documento, i dati interni di Microsoft mostrano che Copilot ha causato un calo della percentuale di clic per il dominio nytimes.com fino al 93% rispetto alla tradizionale ricerca di Bing.
Una presentazione interna scritta dal direttore delle scienze applicate di Microsoft, Brent Hecht, nel gennaio 2024 ha descritto il declino come un "circolo vizioso" che "danneggerebbe le prestazioni dei nostri modelli e dell'intero web allo stesso tempo".
"È molto insolito che un prodotto finale minacci le basi economiche dei suoi fornitori essenziali, ma questa è la situazione che abbiamo creato per la nostra attività LLM rispetto alla sua 'catena di fornitura di contenuti'", si legge nel documento Microsoft, come citato nel documento.
L’ammissione va direttamente contro un pilastro della difesa del fair use su cui hanno fatto affidamento le aziende di intelligenza artificiale: che l’uso non sostituisce l’opera originale né danneggia il suo mercato.
Le parole dei dirigenti entrano nel record
I documenti non oscurati contengono anche valutazioni sincere da parte delle figure più senior delle società.
Il CEO di Microsoft Satya Nadella ha testimoniato in una deposizione all'inizio di quest'anno che "tutto ciò che è protetto da paywall dovrebbe essere concesso in licenza da chiunque voglia usarlo... per radicamento o formazione". Nadella ha chiarito che se "fosse stato informato del fatto che OpenAI aveva raccolto e addestrato le informazioni che si trovavano dietro un paywall", avrebbe "invocato [il diritto di Microsoft di] richiedere a OpenAI di riqualificare i suoi modelli".
Nadella ha anche concordato sotto giuramento che conversare con i chatbot "ha sostituito... fornirti le informazioni direttamente sul sito web sulla piattaforma AI invece di dover andare alla fonte sottostante".
Per quanto riguarda OpenAI, Nick Turley, capo di ChatGPT dell'azienda, ha scritto nelle comunicazioni interne che gli editori affrontano una "minaccia esistenziale" da parte di prodotti come il chatbot, che sono "in gran parte sostitutivi" e "diventeranno sempre più sostitutivi man mano che miglioreranno". Il presidente di OpenAI Greg Brockman ha descritto i modelli come "eccellenti in termini di novità".
E in una nota interna del gennaio 2023, Hecht – lo stesso dirigente di Microsoft che in seguito ha segnalato il “doom loop” – ha definito la raschiatura “un furto sorprendente di proporzioni senza precedenti” e “il più grande furto di manodopera nella storia umana”.
La vastità della copia
I documenti quantificano la copiatura su una scala non precedentemente divulgata. I soli set di dati di metà formazione di OpenAI, afferma il documento, contengono più di 91.692 copie di lavori pubblicati dal New York Times, dal New York Daily News e dal Center for Investigative Reporting.
Un set di dati derivato da Common Crawl, il repository aperto e gratuito di dati di scansione del web, includeva più di 2 milioni di documenti solo dal nytimes.com. Il documento descrive anche Project Mango, un'iniziativa di dati Microsoft-OpenAI il cui set di dati di formazione assemblato contiene copie di almeno 160.903 opere uniche degli editori di notizie. OpenAI ha consegnato il suo intero set di dati di addestramento GPT-3 a Microsoft per la valutazione, afferma il documento, e Microsoft ha analogamente fornito dati di addestramento a OpenAI attraverso iniziative chiamate Project Taxi e Project Mango.
I dipendenti di OpenAI avrebbero anche creato set di dati di formazione iniziale come WebText e WebText2 che si basavano in modo sproporzionato su contenuti di notizie recuperati.
Hack del paywall e avvisi di copyright eliminati
Forse i dettagli più vividi riguardano il modo in cui è stato ottenuto il contenuto. Quando il ricercatore di OpenAI Nick Ryder ha parlato a Brockman di un "hack per aggirare il paywall di notte", Brockman - dice il documento - ha risposto: "ah carino".
I documenti descrivono inoltre gli sforzi deliberati per eliminare gli avvisi di copyright dai dati di addestramento prima che raggiungano il modello, perché i ricercatori "non vorrebbero" che il modello fornisse "avvisi di copyright" agli utenti.
"Le prove qui rivelate per la prima volta mostrano che OpenAI e Microsoft sapevano che ciò che stavano facendo era sbagliato", ha affermato Steven Lieberman, consulente legale del New York Daily News, in una dichiarazione condivisa con TechCrunch.
Cosa significa per la lotta al fair use
La questione se le aziende di intelligenza artificiale possano legalmente formarsi su materiale protetto da copyright senza una licenza rimane irrisolta, ma i giudici finora sono stati ampiamente favorevoli alle argomentazioni sul fair use delle società di intelligenza artificiale. All'inizio di questo mese, l'amministrazione Trump ha contribuito con una memoria in difesa dell'uso senza licenza di materiale protetto da copyright da parte di OpenAI per addestrare i suoi grandi modelli linguistici.
Tuttavia, molte delle nuove ammissioni vanno contro il requisito del danno di mercato stabilito dal test del fair use: l'idea che l'uso non deve sostituire o indebolire il mercato dell'opera originale. Le dichiarazioni interne secondo cui i prodotti sono "largamente sostitutivi", combinate con i dati di Microsoft che mostrano un crollo del click-through del 93%, danno al Times la prova più concreta finora della sostituzione del mercato.
L’archiviazione è l’ultima escalation in un caso che è diventato la battaglia legale decisiva sul modo in cui le società di intelligenza artificiale acquisiscono i dati di addestramento. Qualunque sia il risultato, i documenti non revisionati ora mostrano che gli stessi dirigenti delle aziende hanno capito presto la tensione e l’hanno messa per iscritto.
Per una copertura continua delle lotte legali che plasmano l'intelligenza artificiale, segui le nostre ultime notizie sull'intelligenza artificiale e l'analisi approfondita dei casi che definiranno il settore.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
