Noul material neexprimat din procesul pentru drepturi de autor al The New York Times împotriva OpenAI și Microsoft dezvăluie o serie de recunoașteri interne izbitoare – inclusiv un director de top Microsoft care descrie în mod privat practicile de instruire AI ale companiilor drept furt, iar conducerea OpenAI recunoscând că chatbot-ul său reprezintă o „amenințare existențială” pentru editorii a căror activitate l-a instruit.
Dosarul, raportat joi de TechCrunch, vine la trei ani după ce The Times a dat în judecată pentru prima dată, susținând că firmele au încălcat legea drepturilor de autor prin antrenarea modelelor AI generative pe conținutul său. Noul material vizibil detaliază modul în care companiile ar fi obținut și utilizat acel conținut: ocolind pereții de plată nedetectate, construirea de seturi de date de instruire prin scraping în masă și eliminarea în mod deliberat a notificărilor privind drepturile de autor din datele de instruire. For more context on this story, see our ongoing artificial intelligence updates.
Este demn de remarcat avertismentul semnalat de TechCrunch însuși: multe dintre informațiile noi provin din propriul brief al The Times, mai degrabă decât din exponatele de bază, care rămân sigilate, iar citatele sunt prezentate fără contextul lor original.
„A Doom Loop” pentru editori
Printre cele mai importante dezvăluiri se numără datele Microsoft despre ceea ce a făcut „motorul de răspuns” Copilot pentru a face trafic către site-ul The Times. Potrivit dosarului, cifrele interne ale Microsoft arată că Copilot a determinat ca ratele de clic pentru domeniul nytimes.com să scadă cu până la 93% în comparație cu căutarea tradițională Bing.
O prezentare internă scrisă de directorul Microsoft Applied Science, Brent Hecht, în ianuarie 2024, a descris declinul drept o „buclă fatală” care „ar afecta performanța modelelor noastre și a întregului web în același timp”.
„Este extrem de neobișnuit ca un produs final să amenințe bazele economice ale furnizorilor săi esențiali, dar aceasta este situația pe care am creat-o pentru afacerea noastră LLM în ceea ce privește „lanțul de aprovizionare a conținutului””, se arată în documentul Microsoft, după cum este citat în dosar.
Admiterea reduce direct un pilon al apărării utilizării loiale pe care s-au bazat companiile de inteligență artificială: faptul că utilizarea nu înlocuiește munca inițială și nu dăunează pieței acesteia.
Cuvintele proprii ale directorilor intră în înregistrare
Dosarele neexprimate surprind, de asemenea, evaluări sincere din partea celor mai înalte personalități ale companiilor.
CEO-ul Microsoft, Satya Nadella, a mărturisit într-o declarație de la începutul acestui an că „orice lucru care este protejat ar trebui să fie autorizat de oricine dorește să-l folosească... pentru pregătire sau pregătire”. Nadella a precizat că dacă „ar fi fost conștient de faptul că OpenAI a analizat și instruit informațiile care se aflau în spatele unui paywall”, ar fi „invocat [dreptul Microsoft de a] cere OpenAI să-și reinstruiască modelele”.
Nadella a fost, de asemenea, de acord sub jurământ că conversația cu chatboții „a înlocuit … oferirea de informații chiar acolo pe site-ul web pe platforma AI, față de nevoia de a merge la sursa de bază”.
Pe partea OpenAI, Nick Turley, șeful ChatGPT al companiei, a scris în comunicările interne că editorii se confruntă cu o „amenințare existențială” din partea unor produse precum chatbot, care sunt „în mare măsură substitutive” și „vor deveni din ce în ce mai substitutive pe măsură ce se îmbunătățesc”. Președintele OpenAI, Greg Brockman, a descris modelele ca fiind „excelent la știri”.
Și într-o notă internă din ianuarie 2023, Hecht – același director executiv Microsoft care a semnalat mai târziu „bucla fatală” – a numit răzuirea „un furt uimitor de proporții fără precedent” și „cel mai mare furt de muncă din istoria omenirii”.
Amploarea pură a copierii
Documentele cuantifică copierea la o scară nedezvăluită anterior. Numai seturile de date de la mijlocul antrenamentului OpenAI, se spune în dosar, conțin peste 91.692 de copii ale lucrărilor publicate de The New York Times, New York Daily News și Center for Investigative Reporting.
Un set de date derivat din Common Crawl, depozitul deschis gratuit de date de accesare cu crawlere web, a inclus peste 2 milioane de documente numai de pe nytimes.com. Dosarul descrie, de asemenea, Project Mango, o inițiativă de date Microsoft-OpenAI al cărei set de date de instruire asamblat conține copii a cel puțin 160.903 de lucrări unice de la editorii de știri. OpenAI a livrat întregul său set de date de instruire GPT-3 către Microsoft pentru evaluare, se arată în dosar, iar Microsoft a furnizat în mod similar date de instruire către OpenAI prin inițiative numite Project Taxi și Project Mango.
De asemenea, angajații OpenAI ar fi construit seturi de date de formare timpurie, cum ar fi WebText și WebText2, care se bazau în mod disproporționat pe conținutul de știri răzuit.
Hackuri de pe Wallwall și notificări privind drepturile de autor eliminate
Poate că cele mai vii detalii se referă la modul în care a fost obținut conținutul. Când cercetătorul OpenAI, Nick Ryder, i-a spus lui Brockman despre un „hack pentru a ocoli nytimes paywall”, Brockman – scrie dosarul – a răspuns: „ah frumos”.
Documentele descriu în continuare eforturile deliberate de a elimina notificările privind drepturile de autor din datele de instruire înainte ca acestea să ajungă la model, deoarece cercetătorii „nu ar dori” ca modelul să transmită „notificări privind drepturile de autor” utilizatorilor.
„Dovezile revelate aici pentru prima dată arată că OpenAI și Microsoft știau că ceea ce făceau era greșit”, a declarat Steven Lieberman, consilier pentru New York Daily News, într-o declarație transmisă TechCrunch.
Ce înseamnă pentru lupta de utilizare corectă
Întrebarea dacă firmele de inteligență artificială se pot instrui în mod legal pe materiale protejate prin drepturi de autor fără o licență rămâne nesoluționată, dar judecătorii au fost până acum în mare măsură favorabili argumentelor companiilor de inteligență artificială privind utilizarea loială. La începutul acestei luni, administrația Trump a contribuit la o scurtă apărare a utilizării fără licență de către OpenAI a materialelor protejate prin drepturi de autor pentru a-și instrui modelele mari de limbă.
Cu toate acestea, mai multe dintre noile admiteri contravin cerinței privind prejudiciul pieței a testului de utilizare loială – ideea că utilizarea nu trebuie să înlocuiască sau să submineze piața pentru lucrarea originală. Declarațiile interne conform cărora produsele sunt „în mare măsură substitutive”, combinate cu propriile date ale Microsoft care arată o prăbușire de 93 la sută prin clicuri, oferă părții The Times dovada cea mai concretă de până acum a înlocuirii pieței.
Depunerea este cea mai recentă escaladare într-un caz care a devenit bătălia juridică definitorie asupra modului în care companiile AI obțin date de instruire. Oricare ar fi rezultatul, dosarul neexprimat arată acum că directorii proprii ai companiilor au înțeles devreme tensiunea – și au scris-o.
Pentru o acoperire continuă a luptelor legale care modelează inteligența artificială, urmăriți cele mai recente știri despre AI și analiza aprofundată a cazurilor care vor defini industria.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
