La Corte Suprema de Dinamarca confirmó la condena de un hombre de 31 años por crear y distribuir más de 36.000 imágenes generadas por inteligencia artificial que representan el abuso sexual de niños, confirmando una sentencia de prisión de 18 meses y resolviendo una cuestión que se ha estado moviendo en los tribunales de todo el mundo: si el material de abuso generado artificialmente se trata como criminal de la misma manera que las imágenes que involucran a víctimas reales. La respuesta del tribunal, anunciada esta semana, es inequívoca: el material de abuso sexual infantil generado por IA es tan ilegal y punible como el material real.
El fallo, informado por medios internacionales como Reuters y publicado a través de los tribunales daneses, cierra una de las primeras pruebas de apelación históricas sobre cómo la ley centenaria de protección infantil absorbe la IA generativa. El acusado había sido condenado en un tribunal inferior por posesión y distribución del material, y apeló con el argumento de que ningún niño real estuvo involucrado en la producción de las imágenes. El Tribunal Supremo rechazó por completo ese razonamiento y consideró que el carácter ficticio de las representaciones no las sitúa fuera del derecho penal. Para los lectores que siguen cómo los sistemas legales están respondiendo a la tecnología generativa, la decisión se encuentra entre las entradas más importantes en las AI news de este año sobre regulación.
Por qué importaba el caso
La cuestión legal en el centro de la apelación es engañosamente simple: cuando se genera una imagen en lugar de fotografiarse, ¿se trata de "material de abuso sexual infantil"? Los argumentos de la defensa en casos como éste tradicionalmente se han apoyado en la ausencia de una víctima identificable: ningún niño real fue fotografiado, herido o incluso involucrado. Ese argumento ha ido ganando credibilidad superficial a medida que los generadores de imágenes modernos pueden producir representaciones fotorrealistas de niños que no existen, con rostros, cuerpos y entornos realistas, sin ninguna imagen de referencia de una persona real.
La respuesta de la Corte Suprema danesa alinea la ley danesa con la intención protectora de la Convención de las Naciones Unidas sobre los Derechos del Niño, para la cual la ley de implementación danesa está diseñada. El tribunal determinó que la ley no crea un puerto seguro para representaciones ficticias y que el material generado por IA está dentro del alcance de las prohibiciones existentes. La consecuencia práctica es que generar, poseer o distribuir tales imágenes conlleva la misma exposición criminal que el material de abuso tradicional: una sentencia de 18 meses en este caso, por material que nunca involucró una fotografía real.
Una sentencia con alcance más allá de Dinamarca
Aunque la sentencia vincula únicamente a los tribunales daneses, su importancia es internacional. Los fiscales de Europa y América del Norte han estado luchando contra un aumento en las imágenes de abuso generadas por IA, y los tribunales de varias jurisdicciones han llegado a conclusiones similares a través de diferentes vías legales: algunos basándose en estatutos que ya cubren representaciones independientemente de si se utilizó a un niño real, otros ampliando los marcos existentes de obscenidad y protección infantil mediante interpretación. Lo que añade el fallo danés es una declaración clara, a nivel de apelación, de una jurisdicción con reputación de tener una visión de futuro tecnológica en el derecho, reforzando el consenso internacional emergente de que la ausencia de una víctima real en el proceso de producción no es una defensa.
La escala del caso (más de 36.000 imágenes) ilustra por qué el problema ha escalado tan rápidamente. Las herramientas generativas han reducido el costo de producir imágenes de abuso a casi cero, y las estadísticas de incautaciones de agencias encargadas de hacer cumplir la ley en varios países han mostrado que el material generado por IA aparece en una proporción cada vez mayor de las investigaciones de explotación infantil. A diferencia del material tradicional, cada imagen se puede generar, regenerar y variar infinitamente, lo que multiplica tanto el volumen que los investigadores deben clasificar como el riesgo de que se utilicen falsificaciones realistas para preparar, chantajear o insensibilizar a niños reales.
La represión más amplia de Dinamarca contra los abusos generativos
El fallo encaja en una postura danesa claramente activista sobre los daños generativos de la IA. Dinamarca ha estado impulsando una legislación para prohibir el intercambio de deepfakes de personas reales generadas por IA sin consentimiento, un proyecto de ley que daría a los ciudadanos un control similar al de los derechos de autor sobre su propia imagen, un enfoque que atrajo amplia atención cuando se propuso. Específicamente en materia de protección infantil, las autoridades danesas han tratado el material sintético de abuso como un objetivo prioritario de aplicación de la ley en lugar de una zona legal gris.
Esa combinación (una legislación agresiva contra los deepfakes y ahora un precedente de la Corte Suprema sobre CSAM generado por IA) posiciona a Dinamarca como un punto de referencia para otros estados miembros de la UE que implementan la Ley de IA del bloque y sus obligaciones relacionadas con la seguridad infantil. Las plataformas y los proveedores de modelos que operan en Europa se enfrentan ahora a un panorama más claro: las obligaciones de filtrado, detección y notificación en torno al material sintético de abuso no se limitan a imágenes derivadas de víctimas reales.
Qué significa para las empresas de IA
Para las empresas que crean modelos de imágenes y vídeos generativos, sentencias como ésta endurecen el entorno legal en torno a un área de cumplimiento que ya es implacable. Todos los laboratorios fronterizos importantes mantienen filtros destinados a bloquear representaciones sexualizadas de menores, y la industria ha invertido en estándares de procedencia, como credenciales de contenido, para distinguir los medios sintéticos. La sentencia danesa no cambia esas obligaciones de ingeniería: cambia lo que está en juego. Cuando los tribunales de apelación afirman que las imágenes de abuso generadas se procesan de manera idéntica al material fotográfico, el argumento para tratar las salvaguardias de contenido de abuso como infraestructura de seguridad central en lugar de una moderación opcional se vuelve casi incontestable.
El fallo también ofrece un modelo para los legisladores que aún están redactando sus respuestas. En lugar de esperar a que los parlamentos aprueben nuevos estatutos que mencionen específicamente el material generado por IA, los tribunales están demostrando que los marcos de protección infantil existentes pueden absorber la tecnología, pero un lenguaje legal claro eliminaría la ambigüedad que los acusados en casos futuros seguirán probando.
La sentencia de 18 meses impuesta al hombre de 31 años sigue vigente. Y la ficción legal de que "ningún niño real resultó dañado" ha sufrido una importante derrota pública en un tribunal supremo europeo, una señal que repercutirá en los procesamientos por material de abuso generado por IA mucho más allá de las fronteras de Dinamarca.
Manténgase informado sobre la regulación de la IA
Los tribunales y los reguladores se apresuran a mantenerse al día con la IA generativa. Para obtener informes verificados sobre las leyes, políticas y aplicación de la IA, siga AI Buzz Wire.
Leer más noticias sobre IA →
