Une étude du MIT révèle que les images générées par l'IA ne peuvent souvent pas être attribuées à des données d'entraînement

Une nouvelle étude menée par des informaticiens du MIT publiée mardi dans Nature Communications fournit une conclusion qui pourrait remodeler le débat sur les droits d'auteur de l'IA : à mesure que les modèles de diffusion sont formés sur davantage de données, leurs résultats deviennent de plus en plus impossibles à retracer à un élément spécifique de matériel de formation. Les chercheurs appellent ce phénomène « dégradation de l’attribution ». Pour les lecteurs qui suivent le monde en évolution rapide de l’IA générative, cet article est l’un des résultats de recherche les plus importants couverts cette semaine par AI Buzz Wire.

L'article, intitulé « Les résultats des modèles de diffusion générative sont souvent non attribuables », a été rédigé par Zheng Dai et David K. Gifford, tous deux affiliés au Laboratoire d'informatique et d'intelligence artificielle (CSAIL) du MIT. Leur question centrale était d'une simplicité trompeuse : lorsqu'un modèle génératif produit une image, pouvez-vous localiser un élément spécifique dans les données d'entraînement qui est responsable de cette sortie ?

Ce que les chercheurs ont trouvé

De plus en plus, la réponse est non. Les chercheurs montrent que l'attribution – définie comme la tâche consistant à localiser une partie des données d'entraînement qui peut être tenue pour responsable d'un échantillon généré – « peut devenir impossible si un modèle est formé sur un corpus de données suffisamment important ».

"Nous constatons que plus un modèle est formé sur des données, moins les échantillons générés deviennent imputables, un phénomène que nous appelons désormais dégradation de l'attribution", écrivent les auteurs.

Pour tester cela, l'équipe a développé une méthodologie « d'ablation » qui permet de supprimer des exemples de formation spécifiques d'un modèle déjà formé sans recyclage coûteux. Ils ont ensuite mené des expériences de simulation à grande échelle : que générerait le modèle si une image particulière, ou l'ensemble de l'œuvre d'un créateur, n'avait jamais été dans l'ensemble de formation ?

Dans certains des résultats les plus frappants de l'étude, les chercheurs ont découvert que pour les modèles formés sur des ensembles de données suffisamment volumineux, ils pouvaient supprimer la Joconde – ou même l'intégralité de l'œuvre de Léonard de Vinci – et que le modèle pouvait toujours reproduire l'image ou le style artistique. Aucun élément de formation n’était causalement responsable du résultat.

Pourquoi c'est important pour les litiges en matière de droit d'auteur

Les conclusions arrivent au milieu d’un champ de bataille juridique actif. Les modèles de diffusion tels que Midjourney et Stable Diffusion ont suscité des poursuites judiciaires de la part d'artistes qui soutiennent que les copies de leur travail dans les données d'entraînement permettent aux systèmes d'IA de reproduire leur résultat et leur style.

Dans une affaire de droit d’auteur en cours datant de 2023, Andersen et al. contre Stability AI Ltd., les plaignants ont tenté de forcer Midjourney à divulguer les ensembles de données utilisés pour entraîner ses modèles. Ils affirment que Midjourney a construit ses ensembles de formation "en récupérant des images associées à des noms d'artistes spécifiques dans le but exprès de permettre à son modèle d'imiter le contenu expressif de ces artistes".

L’étude du MIT suggère qu’il pourrait être techniquement impossible d’établir de tels liens de causalité à grande échelle. Comme l'a noté The Register, qui a été le premier à rapporter les détails de l'étude, la recherche semble susceptible de rendre la réglementation de l'IA plus difficile plutôt que plus facile – à l'opposé de ce que les auteurs espéraient lorsqu'ils ont commencé leurs travaux.

La question de l'utilisation équitable

Dans le communiqué de presse du MIT, Gifford affirme que les résultats vont dans les deux sens. Si les résultats générés n’ont rien à voir avec un élément individuel de données de formation, les modèles peuvent être véritablement créatifs plutôt que de simples machines à copier.

"Cela soulève des questions sur l'utilisation équitable, sur la question de savoir si les résultats sont eux-mêmes protégés par le droit d'auteur en tant qu'œuvres de roman et sur la façon dont les auteurs sont rémunérés lorsque ce qui sort d'un modèle n'est attribuable à rien sur Internet", a déclaré Gifford.

Les implications s'étendent au-delà des générateurs d'images. Les modèles de diffusion sont devenus l'architecture dominante pour générer des médias audiovisuels et sont de plus en plus utilisés dans des applications scientifiques, notamment la modélisation de la structure des protéines et la découverte thérapeutique. Des outils d'attribution ont également été proposés pour le désapprentissage automatique, la détection d'empoisonnement des données, l'interprétabilité des modèles, les audits d'équité et le respect de la confidentialité.

Un avertissement pour les startups d'attribution

L’étude comporte également une mise en garde à l’égard du secteur en pleine croissance des outils de provenance et de vérification de contenu de l’IA. Les chercheurs ont découvert que l’attribution basée sur la similarité – faire correspondre les résultats générés à des images d’entraînement visuellement similaires – produit de fausses attributions dans les régimes de données d’entraînement volumineux.

En d’autres termes, un outil qui prétend que « cette image d’IA provient du portfolio de cet artiste » peut tout simplement se tromper lorsque les modèles sont entraînés sur des milliards d’images. Pour les plateformes, les tribunaux et les régulateurs qui comptent sur l’attribution technique pour régler les litiges de provenance, les résultats du MIT suggèrent qu’une telle certitude pourrait être hors de portée pour les modèles à l’échelle frontière.

Ce qui vient ensuite

Le document devrait être cité dans les litiges et les débats politiques en cours, y compris les discussions autour des exigences de transparence de la loi européenne sur l'IA et les propositions concernant les systèmes de rémunération des artistes. Si le déclin de l’attribution persiste pour les modèles de production les plus importants, les systèmes de compensation basés sur le traçage des productions jusqu’à des œuvres spécifiques devront peut-être être repensés autour de licences collectives plutôt que d’un suivi au niveau des éléments.

L'étude soulève également un point subtil pour les développeurs d'IA : l'inattribution peut en fait renforcer les arguments d'utilisation équitable en faveur de la formation sur des données protégées par le droit d'auteur, tout en sapant simultanément la capacité des artistes à prouver des dommages spécifiques causés par des productions individuelles. Les deux camps dans la lutte contre le droit d’auteur trouveront quelque chose à utiliser dans les données.

Gardez une longueur d'avance sur l'IA

Pour plus de recherches et d’analyses de pointe sur l’IA, visitez AI Buzz Wire pour une couverture quotidienne de l’industrie de l’IA.

Lire plus d'actualités sur l'IA →