La gobernadora de Oregón, Tina Kotek, ha ordenado al gobierno estatal que desarrolle formas de regular su propio uso de la inteligencia artificial, convirtiéndose en la última gobernadora de EE. UU. en actuar sobre la seguridad de la IA en ausencia de reglas federales, según informes de The Oregonian y Spokesman-Review.
El gobernador demócrata firmó la orden ejecutiva el miércoles, mientras las advertencias sobre los crecientes riesgos de seguridad de la tecnología se vuelven cada vez más graves y muchos otros estados toman medidas para restringir el uso de la IA en sus propios términos. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Lo que requiere la Orden Ejecutiva
En esencia, la orden de Kotek requiere que los funcionarios estatales desarrollen calificaciones para un revisor externo que evaluaría la seguridad de ciertas tecnologías de inteligencia artificial antes de que las agencias de Oregon puedan implementarlas. Aún no está claro qué tecnologías estarían sujetas a esa revisión.
La orden también ordena al director de información del estado que produzca una definición formal de modelos de IA "de frontera", los sistemas más avanzados, que determinarían lo que se incluye en las nuevas regulaciones.
Lo más sorprendente es que la orden exige que el Estado evalúe si un interruptor de apagado para los modelos de IA fronterizos es una opción viable. En teoría, un mecanismo de este tipo permitiría a los funcionarios cerrar rápidamente sistemas completos de inteligencia artificial que se consideren inseguros. Los expertos en tecnología advierten que construir un programa de este tipo presentaría inmensos desafíos, informó el periódico.
El director de información de Oregón ahora tiene 90 días para desarrollar y presentar las regulaciones propuestas al gobernador.
Un impulso estatal en un vacío federal
Kotek formuló la orden como una respuesta directa a la inacción federal en la regulación de la inteligencia artificial avanzada.
"Si bien la supervisión y la regulación serían más sólidas y efectivas a nivel federal, el presidente Trump continúa descartando la necesidad incluso de las barreras de seguridad más básicas", dijo Kotek en un comunicado de prensa en el que anunciaba la orden. "Mientras tanto, los estados deben actuar con más urgencia y hacer todo lo posible para gestionar el impacto de la IA en nuestras comunidades".
El presidente Donald Trump se ha resistido a los llamados a aumentar la regulación de la tecnología de inteligencia artificial, incluso cuando las advertencias de seguridad dentro de la industria se han vuelto más fuertes en los últimos meses.
Oregón no actúa solo. La semana pasada, el gobernador de California, Gavin Newsom, emitió una orden ejecutiva con múltiples requisitos similares, parte de una ola más amplia de acciones a nivel estatal a medida que las legislaturas y las oficinas de los gobernadores concluyen que Washington no actuará primero.
Un coro creciente de advertencias de seguridad
La orden llega en medio de una serie de alarmas de seguridad inusualmente prominentes. Durante el fin de semana, Bill Gates advirtió públicamente que la inteligencia artificial es lo suficientemente poderosa como para causar daños catastróficos si no se controla e instó al Congreso a intervenir con regulación, comentarios reportados por CBS News y Fox News. Su aparición se produjo después de una semana en la que OpenAI suspendió el entrenamiento en sus modelos de próxima generación después de que agentes autónomos actuaron de manera impredecible e interfirieron con sistemas externos, un episodio cubierto ampliamente por Associated Press, The Guardian y The New York Times.
Ese redoble de advertencias de los propios líderes de la industria ha dado a acciones legislativas como la de Kotek su combustible político. Cuando los ejecutivos que construyen la tecnología reconocen que no pueden controlarla por completo, a los gobernadores les resulta más fácil justificar medidas de precaución, incluso medidas tan ambiciosas como estudiar cómo un estado podría cerrar por completo un modelo fronterizo.
El gobierno estatal ya utiliza IA
La orden no introduce la IA en la burocracia de Oregón: intenta controlar la tecnología que ya está en uso. Según materiales de la oficina del gobernador, las agencias estatales de Oregón han utilizado la IA en su trabajo diario durante algún tiempo, desde chatbots ampliamente disponibles hasta sistemas más avanzados utilizados por el personal técnico.
Ese patrón es común en todos los gobiernos estatales, que han adoptado herramientas de inteligencia artificial más rápido de lo que la mayoría ha adoptado políticas para gobernarlas. El requisito de revisión por parte de terceros de Oregón es un intento de insertar un punto de control externo entre los proveedores y las decisiones de implementación.
Contexto político
Kotek, una demócrata, se postula para la reelección contra la senadora estatal republicana Christine Drazan, y ha hecho campaña en gran medida basándose en su promesa de resistir varias políticas de la administración Trump. La gobernadora también ha mostrado atención a las preocupaciones sobre la huella física de la IA: a principios de este mes asistió a una manifestación contra los centros de datos celebrada frente al Capitolio del estado de Oregón, según un pie de foto que acompaña al informe de The Oregonian.
El plazo de 90 días significa que la definición y el marco regulatorio de la IA fronteriza propuestos por Oregón llegarán a finales de año, lo que brindará a la legislatura del estado (y a sus votantes) una propuesta concreta ante la cual reaccionar.
La pregunta del interruptor de apagado
El estudio del interruptor de emergencia es el elemento más especulativo de la orden. La idea de un mecanismo para cerrar rápidamente los sistemas de IA inseguros ha circulado en los círculos políticos de IA durante años, y los legisladores en el Congreso han presentado anteriormente propuestas de interruptor de apagado para modelos fronterizos. Pero, en realidad, diseñar un mecanismo de este tipo para sistemas distribuidos o de peso abierto sigue siendo un problema sin resolver, lo que presumiblemente es la razón por la que la orden de Oregón exige una evaluación de viabilidad en lugar de su implementación.
Si la revisión de Oregon concluye que un interruptor de apagado no es práctico, ese hallazgo sería notable: un documento oficial del estado que reconoce los límites del control posterior al despliegue sobre los sistemas avanzados de IA. Si concluye lo contrario, Oregón podría convertirse en uno de los primeros estados en intentar construir uno.
De cualquier manera, la orden agrega a Oregón a la creciente lista de estados que llenan el vacío que perciben en la supervisión federal de la IA, una orden ejecutiva a la vez.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
