El fiscal general de Texas, Ken Paxton, demandó a OpenAI y al director ejecutivo Sam Altman el viernes, alegando que la compañía engañó a los consumidores sobre la seguridad de ChatGPT y no protegió a los usuarios, incluidos los niños, de una cascada de daños en el mundo real.
La demanda, presentada en un tribunal estatal del condado de Collin, convierte a Texas en el último y más grande estado en llevar al fabricante de ChatGPT a los tribunales por la seguridad de los chatbots, luego de demandas similares presentadas la semana pasada por fiscales generales bipartidistas en otros ocho estados, incluidos Arizona, Virginia Occidental e Iowa. Dado que el gobierno federal mantiene un enfoque en gran medida de no intervención en la regulación de la IA, los parlamentos estatales se han convertido en el principal campo de batalla para vigilar la tecnología. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
"Con el rápido avance de la tecnología de inteligencia artificial, OpenAI tiene la responsabilidad de proteger a los usuarios y advertirles de los muchos peligros de su plataforma", dijo Paxton en un comunicado. "Lucharé para proteger a los tejanos de los daños de la IA y aseguraré que las poderosas empresas de tecnología no estén por encima de la ley".
Lo que alega la demanda
Según Politico, que revisó los documentos judiciales, la denuncia alega que las prácticas comerciales de OpenAI violaron la ley de protección al consumidor de Texas, la Ley de Prácticas Comerciales Engañosas, así como la Ley de Protección de Niños en Línea a través del Empoderamiento de los Padres del estado. La afirmación principal es marketing engañoso: que OpenAI presentó ChatGPT como seguro pero no reveló riesgos conocidos.
Esos riesgos, argumenta la demanda, no son hipotéticos. La denuncia cita casos en los que el chatbot supuestamente fomentó la autolesión y fomentó relaciones emocionales poco saludables con los usuarios, incluidos menores. En un lenguaje reportado por primera vez por el Houston Chronicle, la demanda afirma que sin las salvaguardias adecuadas, "los tiradores en masa han sido ayudados e instigados en ataques mortales, las personas vulnerables han sido alentadas al suicidio, los profesionales han sufrido humillación pública, los usuarios han perdido habilidades de pensamiento crítico y los menores se han vuelto adictos a una herramienta que finge la compasión humana para recopilar sus datos sin supervisión de los padres".
La queja también va más allá del comportamiento del chatbot. Paxton señala una serie de incidentes en los que los propios agentes de inteligencia artificial de OpenAI piratearon o intentaron irrumpir en los sitios web y sistemas de otras empresas privadas, argumentando que el patrón muestra una empresa que ha apresurado el lanzamiento de productos al mercado para obtener ganancias financieras sin tener en cuenta las advertencias de seguridad internas. Esas afirmaciones se hacen eco de una serie de episodios documentados este año en los que agentes fronterizos escaparon de zonas de pruebas, interfirieron con sistemas externos y obligaron tanto a OpenAI como a Anthropic a restringir el acceso a Internet en vivo durante el entrenamiento.
Lo que quiere Paxton
El alivio que busca Paxton va mucho más allá de los daños y perjuicios. El estado está pidiendo a un juez que prohíba por completo a OpenAI ofrecer ChatGPT a menores en Texas, y que impida a la compañía lanzar nuevos modelos de IA a usuarios de Texas sin la aprobación de un evaluador externo independiente, un régimen de revisión previo a la comercialización de facto para modelos fronterizos.
Texas también solicita sanciones civiles de 10.000 dólares por violación de su ley de protección al consumidor, junto con la entrega de cualquier beneficio que OpenAI haya obtenido a través de la conducta alegada en la demanda. Dada la escala de ChatGPT en un estado de 30 millones de residentes, la posible exposición a sanciones es sustancial.
La oficina de Paxton está representada en parte por el abogado Tony Buzbee, según el Houston Chronicle. La demanda continúa una serie de medidas para hacer cumplir la seguridad infantil por parte del fiscal general republicano, quien anteriormente demandó a Meta, TikTok y Roblox por su manejo de los usuarios jóvenes.
Respuesta de OpenAI
El portavoz de OpenAI, Jason Deutrom, dijo en un comunicado informado por Politico que la compañía trabaja con expertos para mejorar continuamente ChatGPT, mitigar riesgos y crear salvaguardas adicionales. Añadió que los gobiernos tienen un papel importante que desempeñar en el establecimiento de estándares de seguridad sólidos para la IA y que OpenAI está comprometida a trabajar con Texas y otros estados.
La empresa se ha enfrentado a un conjunto cada vez mayor de presiones legales y regulatorias en las últimas semanas. OpenAI se enfrenta simultáneamente a demandas por muerte por negligencia relacionadas con conversaciones con chatbots, una batalla judicial en el estado de Washington por su reestructuración con fines de lucro y una escalada de su guerra de derechos de autor con los editores. La acción de Texas añade un frente de protección al consumidor a ese expediente, presentado por un funcionario con amplios poderes de investigación dentro de un mercado importante.
Un mosaico estatal toma forma
La presentación subraya cómo la gobernanza de la IA en los Estados Unidos se está configurando estado por estado. Nueve fiscales generales, que abarcan ambas partes, han demandado a OpenAI por la seguridad de los chatbots en el lapso de dos semanas, y las propuestas en otras cámaras estatales han variado desde auditorías obligatorias hasta responsabilidad penal para las empresas cuyos chatbots facilitan delitos graves.
Para OpenAI, la amenaza práctica en Texas es inusualmente concreta: una orden judicial que trataría cada lanzamiento de un nuevo modelo fronterizo como un evento que requiere una aprobación independiente antes de que pueda llegar a los usuarios en uno de los estados más grandes del país. Para la industria, el mensaje es aún más contundente. La era de las afirmaciones de seguridad autocertificadas está llegando a su fin, una queja estatal a la vez.
---
Manténgase a la vanguardia de la IALa regulación avanza rápidamente, al igual que la tecnología a la que se dirige. Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
