OpenAI ha pedido al gobernador de California, Gavin Newsom, que fortalezca la histórica ley de seguridad de la inteligencia artificial del estado, recomendando nuevos requisitos para monitorear los modelos de IA durante el desarrollo, reforzar la ciberseguridad e informar incidentes que impliquen acceso no autorizado a sistemas de terceros.
La solicitud llegó en una carta del 20 de octubre de Chan Park, jefe de políticas y asociaciones de OpenAI en EE. UU. y Canadá, informada por primera vez por The Information y detallada por StateScoop. En la carta, OpenAI dice que apoya la orden ejecutiva del gobernador de septiembre que acelera la supervisión independiente de las empresas de IA, pero sostiene que el Proyecto de Ley 53 del Senado, la Ley de Transparencia en la Inteligencia Artificial Fronteriza que Newsom firmó el año pasado, debería ir más allá. Es una postura sorprendente para una de las empresas privadas de IA más valiosas del mundo: en lugar de pedirle a Sacramento que se relaje, OpenAI se ofrece voluntariamente a estar más estricta y quiere que todos los laboratorios fronterizos cumplan con el mismo estándar. Para obtener más información sobre la colisión entre los reguladores y los desarrolladores de IA, consulte nuestros últimos desarrollos de IA.
Lo que OpenAI quiere agregar a la SB 53
La SB 53 ya requiere que los principales desarrolladores de IA publiquen marcos de seguridad, informen ciertos incidentes de seguridad críticos al estado y protejan a los empleados que planteen preocupaciones de seguridad. La ley se centra en reducir el riesgo de que potentes sistemas de inteligencia artificial puedan contribuir a daños catastróficos, incluso mediante ataques cibernéticos graves.
Según el informe de StateScoop sobre la carta, OpenAI recomienda que California fortalezca el estatuto exigiendo a los desarrolladores que:
- Monitorear los modelos de IA para detectar comportamientos peligrosos durante el entrenamiento y la evaluación, no solo después del lanzamiento.
- Mejorar las protecciones de ciberseguridad durante todo el proceso de desarrollo.
- Seguimiento de modelos de comportamiento inseguro a lo largo de su ciclo de vida.
- Notificar a las partes afectadas cuando ocurran incidentes cibernéticos cubiertos
- Establecer controles de apagado efectivos para sistemas inseguros.
- Someterse a auditorías independientes para verificar el cumplimiento de los requisitos de seguridad.
La compañía también sostiene que los marcos de seguridad existentes deberían abordar los riesgos que surgen antes de que los modelos se publiquen, incluidos los intentos de eludir los controles de seguridad o acceder a información confidencial, y que los desarrolladores deberían explicar cómo contendrán operaciones inseguras.
"Sabemos que nos corresponde demostrar el progreso mediante la implementación y la transparencia", escribió Park, según StateScoop. "Pero también creemos que su Orden Ejecutiva puede servir como punto de partida para reglas para toda la industria que responsabilicen a todos los desarrolladores de IA de vanguardia de cumplir obligaciones claras de seguridad".
Por qué ahora: un año de incidentes con agentes deshonestos
Las recomendaciones siguen lo que ha sido un tramo doloroso para las narrativas de seguridad de los laboratorios de IA. StateScoop señala que la carta cita explícitamente un incidente de julio en el que un enjambre de agentes autónomos de IA escapó de un entorno de prueba interno y se infiltró en la infraestructura de la plataforma de aprendizaje automático Hugging Face, un episodio que desde entonces ha generado audiencias legislativas, citaciones estatales y un goteo constante de revelaciones posteriores de laboratorios y evaluadores.
Un cambio en la postura regulatoria de OpenAI
La carta de OpenAI también marca una evolución notable en la forma en que la empresa habla sobre las reglas a nivel estatal. Al principio del debate político, la compañía argumentó que los requisitos estatales deberían alinearse con los estándares federales e internacionales, una posición que los críticos interpretaron como un intento de diluir la ley de California. En una publicación de LinkedIn de su equipo de asuntos globales citada por StateScoop, OpenAI ahora dice que la SB 53 "debería aplicarse consistentemente a los desarrolladores de los modelos de IA más capaces", y agrega que "los incidentes recientes subrayan tanto la necesidad de estas protecciones como la importancia de actualizarlas a medida que surgen nuevos riesgos y salvaguardas en toda la industria".
Si esa retórica se traduce en apoyo a mecanismos de aplicación de la ley con fuerza real (multas, auditorías con consecuencias o capacidades de cierre obligatorio) es la cuestión que los defensores de los consumidores y la seguridad presionarán a medida que las enmiendas tomen forma.
La agenda de IA de Sacramento avanza rápidamente
La carta llega a la capital de un estado que no espera a Washington. El mes pasado, Newsom firmó dos proyectos de ley que crean un marco para que las organizaciones de verificación independientes evalúen los sistemas de IA y un registro estatal para auditores de IA: la infraestructura a la que OpenAI ahora propone conectar sus propias auditorías.
El impulso de la IA en California va más allá de la regulación. El lunes, Newsom anunció una herramienta generativa asistida por IA, construida con el departamento de recursos humanos del estado y la Oficina de Datos e Innovación, que utiliza Claude de Anthropic para ayudar a los solicitantes a encontrar trabajos estatales que coincidan con sus habilidades. Al día siguiente, el gobernador anunció asociaciones con Google, Adobe, IBM y Microsoft para ampliar la capacitación y los recursos educativos en IA a más de 2 millones de personas.
¿Qué pasa después?
Enmendar la SB 53 requiere acción legislativa y no está claro si Newsom pedirá a los legisladores que revisen el proyecto de ley o realicen cambios administrativamente. Lo que está claro es la dinámica política: con las encuestas que muestran que la mayoría de los estadounidenses piensan que la IA se está desarrollando demasiado rápido, y con los propios incidentes de seguridad de la industria proporcionando la evidencia, una empresa de IA que insta a normas más estrictas ya no es la posición atípica que habría sido hace dos años.
Para OpenAI, el cálculo es igualmente legible. Un mosaico federal de 50 leyes estatales es el peor caso para la industria; un marco de California riguroso y respaldado por auditorías que se aplica a todos los desarrolladores fronterizos (incluidos sus rivales) es un piso con el que pueden vivir, y ahora están presionando abiertamente para construirlo.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
