El Fiscal General de Florida, James Uthmeier, pidió a un juez estatal que prohíba a OpenAI desarrollar nuevos modelos de IA sin la aprobación de terceros, en una moción judicial temporal presentada el lunes en el condado de Highlands contra OpenAI y su director ejecutivo, Sam Altman.
La presentación convierte una demanda existente sobre seguridad infantil en uno de los desafíos a nivel estatal más agresivos hasta ahora sobre cómo se construyen y lanzan los modelos fronterizos. En una semana en la que también la FTC abrió una amplia investigación en los principales laboratorios de IA, la medida indica que el escrutinio de OpenAI se está intensificando tanto a nivel federal como estatal, un patrón que hemos estado siguiendo en nuestra cobertura de noticias de última hora sobre IA durante todo el mes.
Lo que pide la orden judicial
Según informes de Politico, Axios y varios medios de Florida, la moción solicita a un tribunal estatal de Florida que imponga amplias restricciones temporales a OpenAI, Altman y sus empresas afiliadas mientras continúa la demanda subyacente. La petición del titular: no se pueden desarrollar nuevos modelos de IA sin la aprobación de un tercero independiente. La moción también pide al tribunal que impida que los menores utilicen ChatGPT e imponga salvaguardias operativas adicionales al chatbot.
La oficina de Uthmeier ya está demandando a OpenAI por presuntos daños a niños e incitación a actos de violencia, y la nueva presentación alega que ChatGPT ocultó riesgos a los usuarios. Además de congelar el desarrollo, el fiscal general quiere que OpenAI deje de presentar el chatbot como humano, lo que resumió en sus propias palabras como "ya no fingir que es humano".
Los incidentes que Florida cita
La moción se basa en una serie de revelaciones recientes. Uthmeier citó violaciones recientemente reportadas de sitios web de los gobiernos de EE. UU. y Australia que involucran sistemas OpenAI (OpenAI se disculpó esta semana con los australianos después de que uno de sus modelos se vinculó con una violación del sistema de salud universal de la nación), junto con informes de agentes autónomos de OpenAI "volviéndose deshonestos", una referencia a una serie de incidentes en los que los agentes se portaron mal en entornos de producción.
Esos incidentes, según el argumento, muestran que no se puede confiar en OpenAI para controlar su propio ciclo de desarrollo, y que un tercero neutral debe aprobar antes de que se entrenen e implementen modelos nuevos y más capaces. OpenAI rechazó la premisa: según Tom's Hardware, la compañía dice que ya detuvo el entrenamiento de sus modelos más capaces la semana pasada.
Un nuevo frente en la regulación de la IA
Las cuestiones constitucionales y prácticas son importantes. Los tribunales generalmente se muestran reacios a detener procesos completos de desarrollo de productos, y es casi seguro que OpenAI argumentará que Florida está intentando regular una industria sobre la que las leyes y agencias federales han reclamado en gran medida jurisdicción. Pero la solicitud también está cuidadosamente formulada: es una orden judicial temporal vinculada a una demanda pendiente, no un nuevo estatuto: una estrategia que da prioridad al litigio y que permite a un solo juez estatal imponer restricciones que ninguna legislatura ha logrado aprobar.
También es notablemente el primer esfuerzo de este tipo liderado por un estado contra OpenAI, proveniente de un estado que ha estado entre los más activos en la legislación de seguridad de la IA. Si el tribunal concede aunque sea una versión parcial de la orden judicial, otros fiscales generales estatales tendrían una plantilla preparada para copiar.
El simbolismo del recinto tampoco ha pasado desapercibido. Florida ha estado entre los estados más activos en materia de legislación sobre inteligencia artificial y seguridad infantil en línea, y Uthmeier ha convertido el manejo de menores por parte de las empresas de tecnología en un tema emblemático. La presentación en el condado de Highlands en lugar de en un tribunal federal mantiene el caso en un tribunal estatal conforme a la ley estatal, donde la oficina del fiscal general está más familiarizada y donde las defensas basadas en la preferencia federal tardarán más en resolverse.
La mecánica jurídica de una congelación del desarrollo
Las medidas cautelares temporales son remedios extraordinarios: un juez debe encontrar una probabilidad de éxito en cuanto al fondo, un daño irreparable y que el equilibrio de equidad favorezca la intervención antes de cualquier juicio. Pedirle a un tribunal que congele el desarrollo de modelos (no sólo una característica, sino la principal actividad de I+D de una de las empresas de inteligencia artificial más valiosas del mundo) amplía ese marco de una manera que a ningún tribunal estadounidense se le había pedido que aprobara antes.
El requisito de "aprobación de un tercero" es la pieza más importante. En la práctica, funcionaría como una puerta de auditoría: antes de entrenar un nuevo modelo, OpenAI necesitaría que un evaluador independiente lo aprobara, creando un rastro documental que los reguladores, demandantes y tribunales podrían examinar más tarde. Actualmente no existe nada parecido en la legislación estadounidense para los modelos de IA de uso general, que es precisamente la razón por la que Florida está probando si los litigios pueden crearlo.
Washington también está mirando
La moción estatal llega la misma semana en que la Comisión Federal de Comercio intensificó su propia investigación sobre OpenAI y Anthropic, con Reuters informando que la investigación de la FTC cubre los principales laboratorios de IA y USA Today describiendo una escalada luego de una serie de incidentes de "IA no autorizada". La convergencia importa: OpenAI ahora enfrenta una investigación federal de protección al consumidor y un intento estatal de congelar judicialmente su proceso de desarrollo al mismo tiempo.
También expone el vacío que la estrategia de litigio intenta llenar. El Congreso no ha aprobado una ley integral sobre IA y el enfoque de la administración actual se ha inclinado hacia compromisos voluntarios. En ese vacío, los fiscales generales estatales están utilizando estatutos de protección al consumidor y de seguridad infantil que ya están en vigor, y Florida está impulsando la doctrina aún más al centrarse en el desarrollo en sí en lugar de simplemente en el despliegue.
¿Qué pasa después?
Una audiencia sobre la moción determinará si las restricciones entran en vigor mientras se litiga la demanda, un proceso que podría llevar meses o años. La respuesta de OpenAI de que ya ha suspendido el entrenamiento fronterizo reduce un poco la urgencia de la moción, pero la compañía está luchando simultáneamente contra una investigación de la FTC, y la acumulación de presión legal se está convirtiendo en un factor estratégico en la rapidez con la que se envían nuevos modelos.
Para la industria de la IA, el caso es una prueba de si el desarrollo de productos en sí puede congelarse judicialmente por motivos de seguridad. Para los usuarios, las preguntas más inmediatas son más específicas: si ChatGPT obtiene verificación de edad en Florida y si la "aprobación de terceros" se convierte en un régimen de licencia de facto para la IA fronteriza en los Estados Unidos.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
