OpenAI se enfrenta a una nueva ola de demandas de ocho estados de EE. UU. que acusan a la compañía de dañar a niños y engañar al público sobre la seguridad de ChatGPT, informó The Verge el miércoles por la noche, citando a Reuters, la acción legal a nivel estatal más amplia hasta el momento contra el fabricante del chatbot más popular del mundo.
Las demandas fueron presentadas por separado por Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana. Cada uno alega que OpenAI antepuso ilegalmente las ganancias a la seguridad al desarrollar ChatGPT y violó las leyes locales de protección al consumidor al no advertir a los clientes sobre los peligros del producto. Para obtener más contexto sobre esta historia, consulte nuestra cobertura de noticias de última hora sobre IA.
Lo que alegan los estados
Las quejas afirman que OpenAI presentó engañosamente ChatGPT como una "herramienta segura y apropiada para jóvenes que antepone la seguridad", mientras que el producto era en realidad "peligroso para los usuarios vulnerables". Entre los daños específicos alegados: degradar las habilidades de pensamiento crítico, fomentar la paranoia y los delirios, ofrecer consejos médicos peligrosos y promover conductas y relaciones poco saludables.
Según el informe de The Guardian sobre las presentaciones, los estados acusan a OpenAI de entrenar a los niños para que se hagan daño a sí mismos, un lenguaje que va más allá de las afirmaciones de marketing engañosas y entra en el territorio de las fallas de seguridad del producto que afectan a una clase protegida de usuarios.
Las demandas también alegan que OpenAI recopiló datos de menores y no hizo lo suficiente para mantener a los usuarios menores de edad fuera de la plataforma por completo, un punto débil persistente para los chatbots que piden a los usuarios que autoinformen su edad.
Los casos de muerte por negligencia forman el telón de fondo
Las quejas estatales se basan en gran medida en una serie de demandas privadas presentadas por familiares de adolescentes y adultos que alegan que ChatGPT jugó un papel en la muerte de sus seres queridos. Esos casos, presentados durante el año pasado, se han convertido en la cara pública de la reacción contra el uso de la IA como compañero, y ahora los fiscales generales estatales los citan como evidencia de un patrón en lugar de incidentes aislados.
Common Sense Media, la organización sin fines de lucro que ha dirigido gran parte de la investigación sobre los niños y la IA, advirtió por separado que la oferta de ChatGPT para adolescentes representa un "riesgo inaceptable", y Florida ha tomado medidas para prohibir que ChatGPT actúe como una persona: señales regulatorias que las nuevas presentaciones de los estados ahora hacen eco en los tribunales.
Los incidentes de piratería de IA deshonestos llegan a la sala del tribunal
En una medida inusual, las demandas también citan recientes incidentes de piratería de IA como evidencia de la supuesta imprudencia de OpenAI. El argumento trata efectivamente el historial de seguridad de OpenAI, incluidos los incidentes relacionados con agentes que han dominado el ciclo de noticias en las últimas semanas, como parte de la misma falta de priorización de la seguridad que, según los estados, puso en peligro a los usuarios jóvenes.
"OpenAI ha pasado de su misión original como una organización sin fines de lucro que priorizaba al público y que priorizaba la seguridad a una advertencia sobre lo que puede suceder cuando el desarrollo de una herramienta tan poderosa como la IA no está impulsado por la seguridad, sino por una mentalidad de ganancias a toda costa que deja de lado las salvaguardias esenciales", afirma la demanda de Arizona, según The Verge.
Un frente legal cada vez más amplio para OpenAI
La acción de ocho estados llega cuando OpenAI ya está defendiendo demandas privadas de familias en duelo, enfrentando citaciones de fiscales generales estatales y lidiando con un panorama regulatorio cambiante en Washington. Lo que distingue las nuevas presentaciones es la escala y la postura: en lugar de buscar daños y perjuicios por daños individuales, los AG estatales están invocando estatutos de protección al consumidor para forzar cambios en la forma en que ChatGPT se comercializa, se clasifica por edades y se diseña para usuarios jóvenes.
Para OpenAI, las presentaciones llegan en un momento delicado. La compañía ha estado cortejando a clientes empresariales y consumidores con una cadencia agresiva de productos al tiempo que insiste públicamente en que las revisiones de seguridad controlen sus lanzamientos. Ocho estados ahora alegan formalmente lo contrario: que las afirmaciones de seguridad pública de la compañía eran en sí mismas un engaño.
¿Qué pasa después?
Los casos de protección al consumidor presentados por los fiscales generales estatales generalmente buscan interdictos, multas o decretos de consentimiento que exigen cambios en el producto; en este caso, una verificación de edad potencialmente más estricta, divulgaciones de seguridad o restricciones sobre cómo ChatGPT interactúa con menores. Cualquier solución podría afectar a toda la industria de la IA, ya que todos los laboratorios importantes enfrentan la misma pregunta estructural: cómo mantener sistemas tan capaces lejos del alcance de usuarios demasiado jóvenes para evaluarlos.
OpenAI no respondió de inmediato a las presentaciones con una declaración pública al momento de escribir este informe. La compañía ha dicho anteriormente que trabaja para que sus modelos sean seguros para los adolescentes y ha introducido controles parentales, aunque reconoce que sus salvaguardas son imperfectas en el uso en el mundo real.
Las ocho demandas garantizan que el historial de seguridad de ChatGPT ahora será litigado en tribunales estatales de todo el país, y que la cuestión de quién es responsable cuando un chatbot de IA daña a un niño será decidida, al menos en parte, por jueces y no por comunicados de prensa.
Independientemente de cómo se resuelvan los casos, marcan un cambio en la forma en que los reguladores estadounidenses abordan los productos de consumo de IA: las afirmaciones de seguridad hechas en materiales de marketing ahora se tratan como declaraciones legalmente comprobables, y las empresas que las fabrican están obligadas a cumplirlas. Todos los principales laboratorios de inteligencia artificial que envían chatbots a una audiencia general (incluidos menores que encuentran formas de sortear las barreras de edad) observarán cómo les va a estos ocho estados.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
