De nouveaux éléments non expurgés dans le procès pour droits d'auteur du New York Times contre OpenAI et Microsoft révèlent une série d'aveux internes frappants – y compris un haut dirigeant de Microsoft décrivant en privé les pratiques de formation en IA des entreprises comme du vol, et les propres dirigeants d'OpenAI reconnaissant que son chatbot constitue une « menace existentielle » pour les éditeurs dont le travail l'a formé.
Le dossier, rapporté par TechCrunch jeudi, arrive trois ans après la première action en justice du Times, alléguant que les entreprises avaient violé la loi sur le droit d'auteur en entraînant des modèles d'IA génératifs sur son contenu. Le matériel nouvellement visible détaille comment les entreprises auraient obtenu et utilisé ce contenu : contourner les paywalls sans être détectés, créer des ensembles de données de formation par grattage massif et supprimer délibérément les avis de droit d'auteur des données de formation. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Il convient de noter la mise en garde que TechCrunch lui-même a signalée : une grande partie des nouvelles informations proviennent du propre mémoire du Times plutôt que des pièces sous-jacentes, qui restent scellées, et les citations sont présentées sans leur contexte d'origine.
« Une boucle catastrophique » pour les éditeurs
Parmi les révélations les plus importantes figurent les propres données de Microsoft sur ce que son « moteur de réponse » Copilot a fait au trafic vers le site Web du Times. Selon le dossier, les chiffres internes de Microsoft montrent que Copilot a entraîné une baisse des taux de clics pour le domaine nytimes.com jusqu'à 93 % par rapport à la recherche Bing traditionnelle.
Une présentation interne rédigée par Brent Hecht, directeur des sciences appliquées de Microsoft, en janvier 2024, a décrit le déclin comme une « boucle catastrophique » qui « nuirait aux performances de nos modèles et de l'ensemble du Web en même temps ».
"Il est très inhabituel qu'un produit final menace les fondements économiques de ses fournisseurs essentiels, mais c'est la situation que nous avons créée pour notre activité LLM en ce qui concerne sa 'chaîne d'approvisionnement de contenu'", peut-on lire dans le document Microsoft, cité dans le dossier.
Cet aveu va directement à l’encontre d’un pilier de la défense de l’utilisation équitable sur laquelle s’appuient les sociétés d’IA : l’utilisation ne se substitue pas à l’œuvre originale et ne nuit pas à son marché.
Les propres mots des dirigeants entrent dans le dossier
Les documents non expurgés capturent également les évaluations franches des plus hauts responsables des sociétés.
Le PDG de Microsoft, Satya Nadella, a déclaré dans une déposition plus tôt cette année que « tout ce qui est payant devrait être autorisé par quiconque souhaite l'utiliser… à des fins de mise à la terre ou de formation ». Nadella a clairement indiqué que s'il "avait été informé qu'OpenAI avait récupéré et formé des informations qui se trouvaient derrière un paywall", il aurait "invoqué [le droit de Microsoft d'] exiger d'OpenAI qu'il recycle ses modèles".
Nadella a également convenu sous serment que converser avec des chatbots "a remplacé… vous donner les informations directement sur le site Web de la plate-forme d'IA plutôt que de devoir accéder à la source sous-jacente".
Du côté d'OpenAI, Nick Turley, responsable de ChatGPT, a écrit dans des communications internes que les éditeurs sont confrontés à une "menace existentielle" de la part de produits comme le chatbot, qui sont "en grande partie substitutifs" et "deviendront de plus en plus substitutifs à mesure qu'ils s'améliorent". Le président d'OpenAI, Greg Brockman, a décrit les modèles comme « excellents en matière d'actualité ».
Et dans une note interne de janvier 2023, Hecht – le même dirigeant de Microsoft qui a plus tard signalé la « boucle catastrophique » – a qualifié le grattage de « vol étonnant aux proportions sans précédent » et de « le plus grand vol de main-d’œuvre de l’histoire de l’humanité ».
L'ampleur de la copie
Les documents quantifient la copie à une échelle non divulguée auparavant. Selon le dossier, les ensembles de données de mi-formation d'OpenAI contiennent à eux seuls plus de 91 692 exemplaires d'ouvrages publiés par le New York Times, le New York Daily News et le Center for Investigative Reporting.
Un ensemble de données dérivé de Common Crawl, le référentiel ouvert et gratuit de données d'exploration du Web, comprenait plus de 2 millions de documents provenant uniquement de nytimes.com. Le dossier décrit également le projet Mango, une initiative de données Microsoft-OpenAI dont l'ensemble de données de formation assemblé contient des copies d'au moins 160 903 œuvres uniques provenant des éditeurs de presse. OpenAI a livré l'intégralité de son ensemble de données de formation GPT-3 à Microsoft pour évaluation, indique le dossier, et Microsoft a également fourni des données de formation à OpenAI via des initiatives appelées Project Taxi et Project Mango.
Les employés d'OpenAI auraient également créé des premiers ensembles de données de formation tels que WebText et WebText2, qui reposaient de manière disproportionnée sur du contenu d'actualité récupéré.
Piratage du Paywall et suppression des avis de droits d'auteur
Les détails les plus marquants concernent peut-être la manière dont le contenu a été obtenu. Lorsque le chercheur d'OpenAI, Nick Ryder, a parlé à Brockman d'un "piratage pour contourner le paywall à tout moment", Brockman - selon le dossier - a répondu: "ah bien".
Les documents décrivent en outre les efforts délibérés visant à supprimer les mentions de droits d'auteur des données de formation avant qu'elles n'atteignent le modèle, car les chercheurs "ne voudraient pas" que le modèle envoie des "notifications de droits d'auteur" aux utilisateurs.
"Les preuves révélées ici pour la première fois montrent qu'OpenAI et Microsoft savaient que ce qu'ils faisaient était mal", a déclaré Steven Lieberman, avocat du New York Daily News, dans un communiqué partagé avec TechCrunch.
Ce que cela signifie pour la lutte contre l'utilisation équitable
La question de savoir si les entreprises d'IA peuvent légalement s'entraîner sur du matériel protégé par le droit d'auteur sans licence reste en suspens, mais les juges ont jusqu'à présent été largement favorables aux arguments d'utilisation équitable des entreprises d'IA. Plus tôt ce mois-ci, l'administration Trump a rédigé un mémoire pour défendre l'utilisation sans licence par OpenAI de matériel protégé par le droit d'auteur pour former ses grands modèles de langage.
Pourtant, plusieurs des nouvelles admissions vont à l’encontre de l’exigence de préjudice commercial du test d’utilisation équitable – l’idée selon laquelle l’utilisation ne doit pas remplacer ou saper le marché de l’œuvre originale. Les déclarations internes selon lesquelles les produits sont « largement substitutifs », combinées aux propres données de Microsoft montrant un effondrement de 93 % des clics, donnent au Times sa preuve la plus concrète à ce jour de substitution sur le marché.
Ce dossier constitue la dernière escalade dans une affaire qui est devenue la bataille juridique déterminante sur la manière dont les sociétés d’IA acquièrent des données de formation. Quelle que soit l’issue, le dossier non expurgé montre désormais que les dirigeants des entreprises ont très tôt compris la tension – et l’ont mise par écrit.
Pour une couverture continue des combats juridiques qui façonnent l’intelligence artificielle, suivez nos dernières actualités sur l’IA et une analyse approfondie des affaires qui définiront l’industrie.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
