La empresa de inteligencia artificial de Elon Musk, xAI, se enfrentó el miércoles al estado de Minnesota en un tribunal federal, argumentando que una nueva ley que prohíbe las imágenes de desnudos falsos generadas por IA viola la Primera Enmienda. La audiencia en el tribunal federal de St. Paul, que comenzó a las 9:30 a. m. del miércoles, es la última ronda de una disputa que se ha convertido en un caso de prueba nacional sobre hasta dónde pueden llegar los estados en la regulación de imágenes de personas reales generadas por IA.

Lo que está en juego es la ley de "nudificación" de la IA de Minnesota, que entró en vigor el 1 de agosto y prohíbe que las herramientas de IA utilicen la imagen de una persona real para crear imágenes de desnudos falsos. La ley también otorga a las víctimas el derecho de presentar casos ante tribunales civiles y autoriza una multa de 500.000 dólares por cada acceso o descarga ilegal de imágenes alteradas con inteligencia artificial para que alguien parezca desnudo, una cifra que refleja la severidad con la que los legisladores estatales trataron el tema.

Una ley aprobada casi por unanimidad

El trasfondo político hace que el choque en la sala del tribunal sea inusual. La prohibición de la nudificación fue propuesta en la legislatura de Minnesota en la pasada sesión y fue aprobada con un apoyo casi total: 132-1 en la Cámara y 65-0 en el Senado, según KSTP. Ese margen es poco común para cualquier regulación tecnológica y muestra cuán políticamente cargadas se han vuelto las imágenes deepfake no consensuadas en todos los partidos.

xAI presentó su demanda federal un día antes de que la ley entrara en vigor y simultáneamente solicitó una orden de restricción temporal para bloquear su aplicación. El juez denegó esa solicitud, señalando el retraso en la presentación y sugiriendo que el daño a la empresa no fue inmediato, como informó CBS News. La audiencia del miércoles abordó la solicitud más amplia de xAI de una orden judicial preliminar, y por la noche el juez todavía estaba reflexionando sobre los argumentos.

La colisión de la Primera Enmienda

Según xAI, la prohibición restringe inconstitucionalmente la libertad de expresión y las herramientas de expresión visual. La demanda de la compañía apunta al mecanismo central de la ley: prohibir que los sistemas de inteligencia artificial produzcan representaciones desnudas de personas reales que nunca dieron su consentimiento para ello. Esa posición coloca a xAI en la incómoda postura de defender, por motivos constitucionales, una categoría de producción (la desnudez sintética no consensuada) que incluso la empresa reconoce que es abusiva cuando se produce.

La oficina del fiscal general de Minnesota, Keith Ellison, ha respondido que la ley está diseñada de manera muy estricta y que es poco probable que xAI tenga éxito en su impugnación constitucional. El informe sobre la audiencia realizado por Law Commentary captó el argumento más agudo del estado: Minnesota sostiene que el generador de imágenes Grok de xAI es una herramienta, no un discurso protegido, y que regular lo que hace un producto es diferente de regular lo que dice una persona. El estado también ha cuestionado la posición de xAI, y MLex informó que la oficina del fiscal general argumenta que xAI no puede demandar a Minnesota en nombre de sus usuarios.

La distinción importa mucho más allá de Minnesota. Si un modelo generativo en sí mismo cuenta como expresión protegida, una amplia gama de leyes estatales que apuntan a la pornografía ultrafalsa, el fraude y la desinformación electoral podrían ser vulnerables al mismo argumento. Si, en cambio, los tribunales tratan los resultados de los modelos como productos sujetos a regulación ordinaria, los estados obtienen una influencia duradera sobre los medios sintéticos que la ley federal actualmente no proporciona.

Un telón de fondo más oscuro

La lucha en los tribunales sobre la doctrina constitucional se desarrolla frente a un expediente de hechos más sombrío. Como informó Minnesota Lawyer, una demanda federal separada alega que las herramientas de xAI permitieron la creación de material de abuso sexual infantil generado por IA. Ese litigio, combinado con oleadas documentadas de nudificación no consensuada dirigida a estudiantes de secundaria en todo el país, ha invertido marcadamente el sentimiento público en contra de la generación no regulada de imágenes basada en semejanzas, y ayuda a explicar los votos de 132 a 1 y 65 a 0.

Por su parte, xAI ha dicho anteriormente que restringe las generaciones abusivas, y el argumento legal de la compañía no es que tales imágenes deban ser legales en todos los casos, sino que una prohibición general de una categoría de herramienta es el instrumento constitucional equivocado. Los abogados estatales respondieron el miércoles que Minnesota redactó su ley precisamente para abordar el caso de uso abusivo, y que el desafío equivale a una empresa que busca invalidar una de las leyes de privacidad más popularmente apoyadas del período de sesiones.

¿Qué pasa después?

La decisión pendiente del juez sobre la orden judicial preliminar determinará si Minnesota puede continuar aplicando la prohibición mientras avanza la demanda subyacente, un proceso que podría llevar muchos meses y que parece probable que, eventualmente, involucre a tribunales superiores. Cualquiera que sea el resultado, el caso está siendo seguido de cerca por otras legislaturas estatales. Docenas de estados han aprobado o considerado medidas ultrafalsas en los últimos años, y un fallo que limite el enfoque de Minnesota determinaría cómo el resto escribe el suyo.

La disputa también llega en un momento de intensificación del escrutinio de las prácticas de xAI. La compañía defiende simultáneamente sus políticas de contenido en otros foros mientras intenta posicionar a Grok como una herramienta creativa máximamente desinhibida, una combinación que ahora ha producido una colisión constitucional directa con una de las protecciones de privacidad más bipartidistas que cualquier estado haya promulgado. Para los lectores que siguen la regulación de los medios sintéticos, esta sala del tribunal de St. Paul es actualmente donde se debate la lucha por la libertad de expresión más trascendental de la industria.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →