Un nuevo estudio de científicos informáticos del MIT publicado el martes en Nature Communications ofrece un hallazgo que podría remodelar el debate sobre los derechos de autor de la IA: a medida que los modelos de difusión se entrenan con más datos, sus resultados se vuelven cada vez más imposibles de rastrear hasta cualquier pieza específica de material de capacitación. Los investigadores llaman al fenómeno "decadencia de la atribución". Para los lectores que siguen el vertiginoso mundo de la IA generativa, el artículo es uno de los resultados de investigación más importantes cubiertos esta semana por AI Buzz Wire.
El artículo, titulado "Los resultados de los modelos de difusión generativa son a menudo inatribuibles", fue escrito por Zheng Dai y David K. Gifford, ambos afiliados al Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT. Su pregunta central era engañosamente simple: cuando un modelo generativo produce una imagen, ¿puede localizar un elemento específico en los datos de entrenamiento que sea responsable de esa salida?
Lo que encontraron los investigadores
La respuesta, cada vez más, es no. Los investigadores muestran que la atribución, definida como la tarea de localizar parte de los datos de entrenamiento que pueden considerarse responsables de una muestra generada, "puede volverse imposible si un modelo se entrena con un corpus de datos suficientemente grande".
"Descubrimos que cuantos más datos se entrenan en un modelo, menos atribuibles se vuelven las muestras generadas, un fenómeno al que en adelante nos referiremos como decadencia de la atribución", escriben los autores.
Para probar esto, el equipo desarrolló una metodología de "ablación" que permite eliminar ejemplos de capacitación específicos de un modelo ya entrenado sin un costoso reentrenamiento. Luego realizaron experimentos hipotéticos a gran escala: ¿qué generaría el modelo si una imagen en particular, o todo el trabajo de un creador, nunca hubiera estado en el conjunto de entrenamiento?
En algunos de los resultados más sorprendentes del estudio, los investigadores encontraron que para modelos entrenados con conjuntos de datos suficientemente grandes, podían eliminar la Mona Lisa (o incluso todo el trabajo de Leonardo da Vinci) y el modelo aún podía reproducir la imagen o el estilo artístico. Ningún elemento de capacitación fue causalmente responsable del resultado.
Por qué es importante en los litigios sobre derechos de autor
Los hallazgos aterrizan en medio de un activo campo de batalla legal. Los modelos de difusión como Midjourney y Stable Diffusion han atraído demandas de artistas que argumentan que las copias de su trabajo en datos de entrenamiento permiten que los sistemas de inteligencia artificial reproduzcan su producción y estilo.
En un caso de derechos de autor en curso desde 2023, Andersen et al. Contra Stability AI Ltd., los demandantes han intentado obligar a Midjourney a revelar los conjuntos de datos utilizados para entrenar sus modelos. Alegan que Midjourney construyó sus conjuntos de entrenamiento "extrayendo imágenes asociadas con nombres de artistas específicos con el propósito expreso de permitir que su modelo imite el contenido expresivo de esos artistas".
El estudio del MIT sugiere que establecer tales vínculos causales puede ser técnicamente imposible a escala. Como señaló The Register, que informó por primera vez los detalles del estudio, es probable que la investigación haga que la regulación de la IA sea más difícil en lugar de fácil, lo contrario de lo que esperaban los autores cuando comenzaron el trabajo.
La cuestión del uso legítimo
En el comunicado de prensa del MIT, Gifford sostiene que los hallazgos son en ambos sentidos. Si los resultados generados no tienen nada que ver con ningún dato individual de entrenamiento, los modelos pueden ser genuinamente creativos en lugar de meras fotocopiadoras.
"Eso plantea dudas sobre el uso legítimo, sobre si los resultados son en sí mismos protegidos por derechos de autor como obras novedosas, y sobre cómo se compensa a los autores cuando lo que surge de un modelo no es atribuible a nada en Internet", dijo Gifford.
Las implicaciones se extienden más allá de los generadores de imágenes. Los modelos de difusión se han convertido en la arquitectura dominante para generar medios audiovisuales y se utilizan cada vez más en aplicaciones científicas, incluido el modelado de estructuras de proteínas y los descubrimientos terapéuticos. También se han propuesto herramientas de atribución para el desaprendizaje automático, la detección de envenenamiento de datos, la interpretabilidad de modelos, las auditorías de equidad y el cumplimiento de la privacidad.
Una advertencia para las empresas emergentes de atribución
El estudio también conlleva una advertencia para la creciente industria de herramientas de verificación de contenido y procedencia de IA. Los investigadores descubrieron que la atribución basada en similitudes (hacer coincidir los resultados generados con imágenes de entrenamiento visualmente similares) produce atribuciones falsas en grandes regímenes de datos de entrenamiento.
En otras palabras, una herramienta que afirma que "esta imagen de IA proviene del portafolio de ese artista" puede simplemente estar equivocada cuando los modelos se entrenan con miles de millones de imágenes. Para las plataformas, los tribunales y los reguladores que dependen de la atribución técnica para resolver disputas sobre procedencia, los resultados del MIT sugieren que esa certeza puede estar fuera del alcance de los modelos a escala de frontera.
¿Qué viene después?
Se espera que el artículo sea citado en litigios y debates políticos en curso, incluidas discusiones sobre los requisitos de transparencia de la Ley de IA de la UE y propuestas para sistemas de compensación de artistas. Si la decadencia de la atribución se mantiene en los modelos de producción más grandes, es posible que sea necesario rediseñar los esquemas de compensación basados en el seguimiento de los resultados hasta obras específicas en torno a licencias colectivas en lugar de un seguimiento a nivel de ítems.
El estudio también plantea un punto sutil para los desarrolladores de IA: la falta de atribuibilidad puede en realidad fortalecer los argumentos de uso legítimo para la capacitación sobre datos protegidos por derechos de autor, al mismo tiempo que socava la capacidad de los artistas para demostrar daños específicos provenientes de producciones individuales. Ambos lados de la lucha por los derechos de autor encontrarán algo que utilizar en los datos.
Manténgase por delante de la IA
Para obtener más investigaciones y análisis de IA de última hora, visite AI Buzz Wire para obtener cobertura diaria de la industria de la IA.
Leer más noticias sobre IA →
