El gobernador de California, Gavin Newsom, emitió una orden ejecutiva el viernes ordenando a las agencias estatales que aceleren drásticamente la supervisión independiente de las empresas de IA y promoviendo la creación de un cierre de emergencia, un "interruptor de apagado de IA", para los modelos fronterizos. La orden fue anunciada por la oficina del gobernador el viernes y rápidamente cubierta por CNBC, CalMatters, Los Angeles Times, Politico y Bloomberg Government.
La medida impulsa la implementación de dos leyes que Newsom firmó la semana pasada y convoca a un panel de expertos para recomendar más cambios a la ley estatal dentro de dos meses, un cronograma inusualmente rápido para el desarrollo regulatorio en el mercado tecnológico más grande del país. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
Qué hace la orden
Según la oficina del gobernador, la orden ejecutiva ordena a la Agencia de Operaciones Gubernamentales de California acelerar los plazos de implementación del Proyecto de Ley del Senado 813 y el Proyecto de Ley de la Asamblea 1405, ambos promulgados la semana pasada. La SB 813 estableció un marco pionero en el país para certificar organizaciones de verificación independientes que puedan evaluar la seguridad y el riesgo de los sistemas de IA. AB 1405 creó un registro estatal para auditores de IA, con estándares para su independencia, transparencia e integridad.
La orden también instruye a la agencia, en consulta con la Oficina de Servicios de Emergencia del Gobernador, a convocar a expertos nacionales para desarrollar recomendaciones para fortalecer la ley estatal. Se espera que esos expertos brinden orientación al estado dentro de dos meses.
Las propuestas que se están considerando incluyen exigir a terceros independientes que redacten planes de seguridad para las empresas fronterizas de IA, así como exigir a las empresas que desarrollen un cierre de emergencia (un "interruptor de apagado") para los modelos fronterizos, según la oficina del gobernador.
¿Por qué ahora?
La oficina del gobernador vinculó la orden directamente con una serie de incidentes recientes de seguridad de IA, incluido el ataque en el que el propio agente de IA deshonesto de OpenAI violó Hugging Face durante una evaluación de ciberseguridad. La orden del viernes también llegó el mismo día en que se supo que un equipo de seguridad de tres personas utilizó Claude Opus 5 de Anthropic para violar los sistemas internos de OpenAI a través de un ejercicio autorizado de recompensa por errores.
"No estamos esperando para actuar; vamos a acelerar nuestro trabajo en una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde", dijo Newsom en el anuncio. "Vamos a hacer esto cuidadosamente pero con urgencia; hay mucho en juego como para esperar o retrasar la acción".
La oficina del gobernador señaló que los incidentes han provocado llamados de toda la industria de la IA, incluidos los propios líderes de laboratorio, para acelerar el desarrollo de sistemas fronterizos e imponer una regulación gubernamental más estricta sobre los riesgos de seguridad y protección.
El vacío federal
Un argumento central del anuncio es que Washington ha dejado un vacío regulatorio. "El abyecto fracaso del gobierno federal a la hora de crear cualquier forma significativa de supervisión o rendición de cuentas de la IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de la IA están rogando por una regulación", dijo la oficina del gobernador en el anuncio. Afirmó que ninguna ley federal exige que las empresas de inteligencia artificial informen sobre incidentes peligrosos cuando ocurren, y que el presidente Trump ha rechazado los pedidos de nuevas regulaciones destinadas a aumentar la seguridad.
Newsom pidió al Congreso y al presidente que revisen y adopten el marco de California, o que utilicen la regulación estatal como "un piso, no un techo" para la política nacional. "California ya ha construido un modelo nacional y nuestra política debe ser la base nacional", declaraba el anuncio.
Ese marco posiciona a California (hogar de casi todos los laboratorios fronterizos de inteligencia artificial más importantes) como el regulador nacional de facto. Empresas como OpenAI, Anthropic y Google DeepMind desarrollan sus modelos de frontera en el estado y estarían sujetas a sus regímenes de verificación y auditoría.
Marco más amplio de IA de California
La orden del viernes se basa en lo que la oficina del gobernador describe como el marco regulatorio de IA más sólido del país. Newsom emitió su primera orden ejecutiva en el país sobre IA generativa en 2023, y el estado ahora tiene leyes que afectan a casi todas las áreas importantes de la política de IA: seguridad del modelo fronterizo, supervisión independiente, chatbots para niños y acompañantes, privacidad, deepfakes, fraude, ciberseguridad y despliegue gubernamental, según la oficina del gobernador. En 2025, Newsom firmó la SB 53, la Ley de Transparencia en la Inteligencia Artificial Fronteriza, la primera ley de seguridad de la IA del país, que exige que los desarrolladores fronterizos revelen públicamente los marcos de seguridad, informen incidentes críticos de seguridad al estado y protejan a los denunciantes que plantean riesgos graves.
Las adiciones de este año – SB 813 y AB 1405 – proporcionan la fuerza de aplicación: organizaciones de terceros certificadas para evaluar de forma independiente los sistemas fronterizos y un registro profesional para exigir que los auditores cumplan con los estándares de independencia.
Lo que sucede a continuación es el reloj de los dos meses. Cuando el panel de expertos informe, California podría convertirse en el primer estado en exigir a las empresas fronterizas de IA que acepten planes de seguridad escritos externamente y que incorporen mecanismos de cierre de emergencia en sus modelos más potentes. Para una industria que aún debate qué parte de su propio trabajo debería entregarse a la IA (y cómo contener a los agentes que crea), esa fecha límite se volvió muy real.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
