xAI se enfrenta a una propuesta de demanda colectiva que por primera vez acusa a la empresa de entrenar sus modelos Grok con material de abuso sexual infantil, tanto real como generado por IA. La denuncia, presentada el miércoles y reportada por Ars Technica, busca la destrucción por orden judicial de cualquier material almacenado en los servidores de la compañía y cambios radicales en la forma en que Grok maneja el contenido sexualizado.
Las acusaciones siguen siendo afirmaciones no probadas formuladas en litigios civiles. X, propietario de xAI, no respondió a la solicitud de Ars Technica de comentar sobre la presentación. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
El demandante y las alegaciones
La demandante, identificada como Jane Doe, alega en la denuncia que fue una víctima en edad preescolar a principios de la década de 2000, cuando se crearon y vendieron en línea imágenes de su abuso. Esas imágenes han sido catalogadas durante mucho tiempo en listas hash mantenidas por el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y el Centro Canadiense para la Protección Infantil (CCCP), organizaciones que rastrean material de abuso conocido para permitir su detección y eliminación.
Según la denuncia, el CCCP notificó a Doe que había identificado material de abuso generado por IA que la representaba en la plataforma de xAI. Sus abogados afirman en un comunicado de prensa que el material que coincide con las entradas de su lista hash del NCMEC "era parte del conjunto de datos que xAI utilizó para desarrollar las capacidades de generación de imágenes y videos de Grok". La denuncia alega además que los mensajes encontrados en foros en línea mostraban a los delincuentes discutiendo la creación de imágenes de abuso generadas por IA de Doe y otras víctimas conocidas de material de abuso heredado.
La teoría jurídica: datos de formación, no sólo resultados
Lo que distingue esta presentación de un litigio anterior contra xAI es su enfoque en el modelo en sí más que en lo que generaron los usuarios individuales. La queja argumenta que debido a que los términos de servicio de Grok tratan las publicaciones públicas sobre X y los propios resultados de Grok como datos de entrenamiento de forma predeterminada, cualquier cosa publicada públicamente alimenta directamente el proceso utilizado para entrenar y mejorar el modelo.
La presentación reconoce que xAI filtra el contenido violento de sus datos de capacitación, pero argumenta que los términos de la compañía no especifican si el material de abuso sexual infantil, las imágenes íntimas no consensuadas u otro contenido para adultos entran en las categorías excluidas. También argumenta que incluso cuando se eliminan imágenes ofensivas, la influencia de un ejemplo de entrenamiento en un modelo ya entrenado es técnicamente difícil de eliminar por completo, y que xAI no ha afirmado públicamente haberlo hecho.
Lo que busca la demanda
Si se certifica la clase propuesta, representaría a todas las personas cuyas imágenes de la infancia fueron supuestamente utilizadas para generar material de abuso con Grok. La demanda invoca las leyes federales sobre pornografía infantil y la Ley Masha, que otorgan a los sobrevivientes de material de abuso el derecho a demandar por su producción, posesión y distribución.
"Los tres son delitos, y xAI cometió los tres", dijo Margaret E. Mabie, una de las abogadas de Doe, en el comunicado de prensa citado por Ars Technica.
Más allá de los daños monetarios, Doe está pidiendo al tribunal que ordene a xAI destruir todo el material de abuso generado por Grok que pueda estar almacenando y usando para entrenamiento, y evitar que el modelo genere resultados sexualizados de cualquier tipo, una demanda que excluiría no solo las imágenes de abuso sino también las imágenes íntimas no consensuadas y el contenido para adultos que Elon Musk ha promovido públicamente como características.
"Doe ha vivido durante casi dos décadas sabiendo que las imágenes de lo peor que le pasó en su vida circulan entre los depredadores en línea y que pueden resurgir en cualquier momento", dijo Sarah London, otra de las abogadas de Doe, en el comunicado de prensa. "XAI debe ser responsable de entrenar conscientemente a sus modelos con imágenes del horrible abuso que sufrió".
Un ajuste de cuentas legal cada vez mayor
La presentación es el último frente en una batalla legal cada vez más amplia sobre las capacidades de imagen y video de Grok. En un caso separado en Tennessee, una mujer identificada como Jane Doe 4 se unió a una demanda alegando que se utilizó una sola fotografía de la infancia con Grok para generar miles de imágenes explícitas de ella, acusaciones que AI Buzz Wire cubrió a principios de este mes. Los reguladores y los tribunales están examinando hasta qué punto se extienden los problemas y algunos usuarios de Grok han sido arrestados por el material que generaron.
Al mismo tiempo, xAI ha actuado a la ofensiva contra sus usuarios. Politico informó esta semana que la compañía está demandando a algunos de sus propios usuarios incluso mientras aumentan las demandas de las víctimas, una estrategia que prueba si las plataformas o las personas que las impulsan tienen responsabilidad legal por lo que produce un modelo de IA.
La nueva denuncia sitúa la cuestión de los datos de entrenamiento en el centro de esa lucha. Si los tribunales aceptan el argumento de que el conjunto de entrenamiento de un modelo puede generar responsabilidad por lo que permite a los usuarios producir, las implicaciones irían mucho más allá de xAI, afectando a todas las empresas de imágenes y videos generativos cuyos términos reintroducen el contenido del usuario en el entrenamiento. Por ahora, las acusaciones son solo eso: acusaciones contenidas en un expediente xAI aún no ha respondido ante el tribunal.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
