Nieuw, niet-geredigeerd materiaal in de auteursrechtzaak van The New York Times tegen OpenAI en Microsoft onthult een reeks opvallende interne bekentenissen – waaronder een topbestuurder van Microsoft die de AI-trainingspraktijken van de bedrijven privé omschrijft als diefstal, en OpenAI’s eigen leiderschap dat erkent dat zijn chatbot een ‘existentiële bedreiging’ vormt voor de uitgevers wier werk het heeft opgeleid.
De aanvraag, donderdag gerapporteerd door TechCrunch, komt drie jaar nadat The Times voor het eerst een rechtszaak aanspande, waarin werd beweerd dat de bedrijven de auteursrechtwetgeving hadden geschonden door generatieve AI-modellen te trainen op de inhoud ervan. Het nieuw zichtbare materiaal geeft gedetailleerd weer hoe de bedrijven die inhoud zouden hebben verkregen en gebruikt: het onopgemerkt omzeilen van betaalmuren, het opbouwen van trainingsdatasets door middel van massale schrapping en het opzettelijk verwijderen van auteursrechtvermeldingen van trainingsgegevens. Voor meer context over dit verhaal, zie ons AI-nieuws.
Het is de moeite waard om het voorbehoud te vermelden dat TechCrunch zelf heeft gemaakt: veel van de nieuwe informatie komt uit de eigen brief van The Times en niet uit de onderliggende stukken, die verzegeld blijven, en de citaten worden gepresenteerd zonder hun oorspronkelijke context.
'Een Doom Loop' voor uitgevers
Een van de meest consequente onthullingen zijn de eigen gegevens van Microsoft over wat zijn Copilot-antwoordengine heeft gedaan met het verkeer naar de website van The Times. Uit de interne cijfers van Microsoft blijkt dat Copilot ervoor zorgde dat de klikfrequenties voor het nytimes.com-domein met maar liefst 93 procent daalden in vergelijking met de traditionele Bing-zoekopdracht.
Een interne presentatie, geschreven door Brent Hecht, de directeur Toegepaste Wetenschappen van Microsoft, in januari 2024, beschreef de achteruitgang als een ‘doemloop’ die ‘tegelijkertijd de prestaties van onze modellen en het hele web zou schaden’.
"Het is hoogst ongebruikelijk dat een eindproduct de economische fundamenten van zijn essentiële leveranciers bedreigt, maar dat is de situatie die we voor ons LLM-bedrijf hebben gecreëerd met betrekking tot de 'content supply chain'", luidt het Microsoft-document, zoals geciteerd in de indiening.
Deze bekentenis gaat rechtstreeks in tegen één pijler van de verdediging tegen redelijk gebruik waarop AI-bedrijven hebben vertrouwd: dat het gebruik het originele werk niet vervangt en de markt ervan niet schaadt.
De eigen woorden van leidinggevenden vormen het record
De niet-geredigeerde documenten bevatten ook openhartige beoordelingen van de hoogste figuren van de bedrijven.
Microsoft-topman Satya Nadella getuigde eerder dit jaar in een verklaring dat "alles waarvoor een betaalmuur geldt, een licentie moet krijgen van iedereen die het wil gebruiken... voor aarding of training." Nadella maakte duidelijk dat als hij "er op de hoogte was gesteld dat OpenAI informatie had verzameld en getraind die zich achter een betaalmuur bevond", hij "een beroep zou hebben gedaan op [Microsoft's recht om] van OpenAI te eisen dat hij zijn modellen opnieuw traint."
Nadella was het er ook onder ede mee eens dat het praten met chatbots "in de plaats is gekomen van het geven van de informatie daar op de website op het AI-platform in plaats van naar de onderliggende bron te moeten gaan."
Aan de kant van OpenAI schreef Nick Turley, hoofd van ChatGPT van het bedrijf, in interne communicatie dat uitgevers worden geconfronteerd met een ‘existentiële dreiging’ van producten als de chatbot, die ‘grotendeels vervangend’ zijn en ‘steeds vervangender zullen worden naarmate ze beter worden’. OpenAI-president Greg Brockman omschreef de modellen als "uitstekend in nieuws."
En in een interne memo uit januari 2023 noemde Hecht – dezelfde Microsoft-directeur die later de ‘doemloop’ markeerde – de schrapping ‘een verbazingwekkende diefstal van ongekende proporties’ en ‘de grootste diefstal van arbeid in de menselijke geschiedenis’.
De enorme omvang van het kopiëren
De documenten kwantificeren het kopiëren op een schaal die nog niet eerder is onthuld. Alleen al de mid-training datasets van OpenAI bevatten volgens de indiening meer dan 91.692 exemplaren van werken gepubliceerd door The New York Times, de New York Daily News en het Center for Investigative Reporting.
Een dataset afgeleid van Common Crawl, de gratis open opslagplaats van webcrawlgegevens, bevatte alleen al meer dan 2 miljoen documenten van nytimes.com. De indiening beschrijft ook Project Mango, een data-initiatief van Microsoft-OpenAI waarvan de samengestelde trainingsdataset kopieën bevat van ten minste 160.903 unieke werken van de nieuwsuitgevers. OpenAI heeft zijn volledige GPT-3-trainingsdataset ter evaluatie aan Microsoft geleverd, aldus de indiening, en Microsoft heeft op vergelijkbare wijze trainingsgegevens aan OpenAI verstrekt via initiatieven genaamd Project Taxi en Project Mango.
OpenAI-werknemers zouden ook datasets voor vroege training hebben gebouwd, zoals WebText en WebText2, die onevenredig afhankelijk waren van geschrapte nieuwsinhoud.
Paywall-hacks en verwijderde auteursrechtvermeldingen
Misschien wel de meest levendige details hebben betrekking op de manier waarop de inhoud werd verkregen. Toen OpenAI-onderzoeker Nick Ryder Brockman vertelde over een ‘hack om de betaalmuur van Nytimes te omzeilen’, antwoordde Brockman – zo staat in de indiening –: ‘Ah leuk.’
De documenten beschrijven verder opzettelijke pogingen om auteursrechtvermeldingen uit trainingsgegevens te verwijderen voordat deze het model bereikten, omdat onderzoekers "niet zouden willen" dat het model "auteursrechtvermeldingen" naar gebruikers zou sturen.
“Het bewijsmateriaal dat hier voor het eerst wordt onthuld, laat zien dat OpenAI en Microsoft wisten dat wat ze deden verkeerd was”, zegt Steven Lieberman, raadsman van de New York Daily News, in een verklaring gedeeld met TechCrunch.
Wat het betekent voor de strijd tegen eerlijk gebruik
De vraag of AI-bedrijven zonder licentie legaal kunnen trainen op auteursrechtelijk beschermd materiaal, blijft onzeker, maar rechters zijn tot nu toe grotendeels positief geweest over de argumenten van AI-bedrijven over redelijk gebruik. Eerder deze maand heeft de regering-Trump een brief geschreven ter verdediging van OpenAI's ongelicentieerde gebruik van auteursrechtelijk beschermd materiaal om zijn grote taalmodellen te trainen.
Toch druisen verschillende van de nieuwe toelatingen in tegen de marktschadevereiste van de fair-use-test – het idee dat het gebruik de markt voor het originele werk niet mag vervangen of ondermijnen. Interne verklaringen dat de producten 'grotendeels vervangend' zijn, gecombineerd met Microsoft's eigen gegevens waaruit blijkt dat het aantal doorkliks met 93 procent is gedaald, geven de kant van The Times het meest concrete bewijs tot nu toe van marktsubstitutie.
De indiening is de laatste escalatie in een zaak die de bepalende juridische strijd is geworden over de manier waarop AI-bedrijven trainingsgegevens verkrijgen. Wat de uitkomst ook zal zijn, uit het niet-geredigeerde verslag blijkt nu dat de eigen leidinggevenden van de bedrijven de spanning al vroeg begrepen – en op schrift hebben gesteld.
Voor voortdurende berichtgeving over de juridische strijd die kunstmatige intelligentie vormgeeft, volgt u ons laatste AI-nieuws en een diepgaande analyse van de zaken die de sector zullen definiëren.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
