El representante Ro Khanna, demócrata de Silicon Valley, presentará una legislación que prohibiría los modelos de IA capaces de mejorarse a sí mismos de forma recursiva hasta que el gobierno federal construya un sistema regulatorio capaz de supervisarlos: la propuesta de seguridad de IA más amplia que aún no ha llegado al Congreso.

El proyecto de ley, denominado Ley de Control Humano sobre la IA, se compartió exclusivamente con CNBC en forma resumida antes de su presentación. Llega en medio de crecientes preocupaciones de seguridad que ya han llevado a los directores ejecutivos de OpenAI y Anthropic a pedir una desaceleración en el desarrollo de modelos de frontera. Para más contexto sobre esta historia, consulta nuestra noticias de IA.

"En realidad, existe un riesgo de extinción de la civilización", dijo Khanna el lunes en una entrevista con CNBC. "Existe un riesgo de seguridad por la pérdida de control, y luego existe un riesgo de uso indebido, y debemos tomar ambos en serio".

Lo que prohibiría el proyecto de ley

En esencia, la Ley de Control Humano sobre la IA prohibiría los modelos de IA que recursivamente mejoren o modifiquen de forma autónoma sus propios objetivos centrales, mecanismos de contención o controles de cierre, a menos que existan barreras federales y una nueva agencia gubernamental apruebe las actividades.

En términos prácticos, esto apunta a la capacidad que más temen los investigadores de seguridad: sistemas que pueden rediseñarse a sí mismos en un ciclo autodirigido, dejando a los humanos con una supervisión cada vez menor en cada paso. La prohibición permanecería vigente hasta que los reguladores estén equipados para evaluar los riesgos.

Una nueva agencia federal para la IA fronteriza

El proyecto de ley crearía una agencia federal dedicada a los modelos de IA más poderosos (los desarrollados por OpenAI, Anthropic, Google DeepMind y xAI), ya que esas empresas se encuentran bajo un escrutinio cada vez más intenso.

Según el resumen compartido con CNBC, la agencia sería responsable de:

  • Redacción de normas de seguridad para sistemas de inteligencia artificial fronterizos.
  • Operar un sistema de licencias para aprobar la capacitación e implementación del modelo.
  • Realización de auditorías de modelos de IA de frontera.
  • Establecer estándares de seguridad para pruebas continuas y control humano efectivo.

Se integrarían auditores independientes en cada laboratorio fronterizo e informarían directamente a la agencia: una verificación estructural diseñada para garantizar que los laboratorios no puedan simplemente marcar sus propios deberes. La agencia también establecería estándares que cubran entornos de prueba sandbox, espacios de aire que aíslan los sistemas de prueba de Internet, interruptores de apagado y controles que impiden que los modelos escapen de la configuración del laboratorio y deambulen por la Internet abierta.

En particular, la legislación ampliaría la supervisión federal a los chips avanzados que utilizan los laboratorios fronterizos, incluidos mecanismos para monitorear o controlar cómo se implementan esos procesadores.

Sanciones penales y seguro obligatorio

El proyecto de ley va más allá que cualquier propuesta anterior sobre sanciones. Penalizaría lo que define como "crímenes contra la humanidad" por el despliegue de modelos de IA que resultan en la destrucción de poblaciones civiles.

Los empleados de las empresas de IA se enfrentarían a sanciones penales por desactivar salvaguardas, interruptores de apagado, sistemas de registro o de contención, o por implementar deliberadamente un sistema no autorizado. Las empresas de IA también tendrían que contratar un amplio seguro de responsabilidad antes de lanzar sus modelos, trasladando el riesgo financiero de fracaso a la industria en lugar del público.

En el frente geopolítico, el proyecto de ley pide a la administración que busque acuerdos ejecutables y controles de exportación específicos diseñados para disuadir a China y otros adversarios de desarrollar peligrosos sistemas de inteligencia artificial.

Construido con la comunidad de seguridad, no con los laboratorios

Khanna fue explícita sobre qué aportes dieron forma al proyecto de ley. En lugar de negociar con los ejecutivos de las empresas que regularía, dijo que la legislación se basó en conversaciones con organizaciones de seguridad de IA, incluidas las organizaciones independientes sin fines de lucro Model Assessment and Threat Research, Machine Intelligence Research Institute y Palisade Research.

"Quiero que esto sea un modelo para dar voz a la comunidad de seguridad de la IA", dijo Khanna a CNBC. "Creo que han sido descartados injustamente como ciencia ficción y no se les ha tomado lo suficientemente en serio. Son ellos los que deben impulsar este debate, la comunidad de seguridad de la IA, no los ejecutivos de los laboratorios fronterizos".

Khanna describió la medida como la legislación de seguridad de IA más completa propuesta hasta la fecha.

Hay pocas probabilidades en un Congreso dividido

La Ley de Control Humano sobre la IA se suma a un abarrotado campo de propuestas de seguridad de la IA en el Capitolio. Entre ellas se encuentra la Ley FRONTIER, bipartidaria, de los representantes Jay Obernolte, republicano de California, y Lori Trahan, demócrata de Massachusetts, que colocaría auditores independientes en laboratorios fronterizos y daría al gobierno autoridad para cerrar modelos que se considere que plantean un riesgo catastrófico. Una propuesta separada de Sanders y Casar para prohibir la superinteligencia artificial ha obtenido el respaldo público de diez demócratas de la Cámara de Representantes, incluido el propio Khanna.

La realidad política, sin embargo, es aleccionadora. No se espera que ningún proyecto de ley de la Cámara reciba votación hasta después de las elecciones de mitad de período, y se espera que el Senado abandone Washington y no regrese hasta después de que los votantes acudan a las urnas.

Ese cronograma significa que la Ley de Control Humano sobre la IA funcionará, al menos por ahora, como un marcador: un plan detallado de lo que la comunidad de seguridad de la IA construiría si tuviera la pluma, presentado precisamente en el momento en que las personas que construyen la IA de vanguardia están advirtiendo, de manera oficial, que la tecnología está superando sus controles.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →