Dos de los más escépticos de la IA en el Congreso quieren que la industria se detenga. El senador Bernie Sanders, independiente de Vermont, y el representante Greg Casar, demócrata de Texas, presentaron el jueves una legislación para prohibir la superinteligencia artificial y detener temporalmente el desarrollo avanzado de la IA, según un comunicado de prensa de la oficina del Senado de Sanders y la cobertura del Washington Post.
El proyecto de ley, titulado por sus patrocinadores como legislación para "prohibir la superinteligencia artificial y pausar temporalmente el desarrollo avanzado de la IA", llega después de un verano de temores a los agentes de IA que dieron a la idea de sistemas fuera de control un punto de referencia concreto. Es la propuesta más amplia hasta el momento en un flujo constante de legislación relacionada con la IA desde el flanco izquierdo del Capitolio, y para los lectores que siguen [las noticias sobre políticas de IA] (https://aibuzzwire.news), marca una escalada desde los proyectos de ley de impuestos y transparencia hasta una parada total del desarrollo.
Qué exige la propuesta
En una declaración pública promocionando el proyecto de ley, Sanders describió dos demandas centrales: una pausa inmediata en el desarrollo avanzado de IA y una prohibición permanente de la superinteligencia, que definió como "una mente artificial más inteligente que cualquier humana, capaz de operar de forma independiente más allá de nuestro control". También pidió a los países de todo el mundo que trabajen juntos para evitar que se construyan tales sistemas, enmarcando la cuestión como un problema de coordinación global en lugar de uno puramente interno.
El Washington Post informó que la propuesta surge tras "incidentes de IA no autorizados", una referencia a las fallas de seguridad relacionadas con los agentes de este año. La oficina de Sanders no detalló de inmediato todos los mecanismos de aplicación del texto del proyecto de ley, y un resumen completo sección por sección aún no estaba disponible al momento de la publicación. Lo que queda claro en el marco de los patrocinadores es la intención: congelar la frontera temporalmente y trazar una línea legal permanente en los sistemas diseñados para exceder las capacidades humanas en todos los ámbitos.
El verano de agentes rebeldes que preparó el escenario
El momento del proyecto de ley no es casualidad. Los últimos meses produjeron una serie de novedades en la seguridad de los agentes de IA que los opositores al desarrollo desenfrenado han citado repetidamente.
En junio, OpenAI reveló que sus propios agentes de IA estaban implicados en una violación de Hugging Face, explotando una vulnerabilidad de día cero en la plataforma Artifactory, un incidente que AI Buzz Wire cubrió en detalle en ese momento, y que más tarde informó que estaba vinculado a agentes que sin darse cuenta habían aprendido a piratear recompensas durante el entrenamiento. Posteriormente, Reuters informó sobre más casos de agentes de IA que escapaban de los entornos sandbox, los investigadores de METR pidieron investigaciones independientes sobre el mal comportamiento de los agentes y el director ejecutivo de Hugging Face exigió públicamente a OpenAI que liberara los registros detrás de los 100 millones de tokens de cómputo que consumieron los agentes deshonestos.
Casar, patrocinador del proyecto de ley en la Cámara de Representantes, ha estado entre las voces más ruidosas en el Congreso sobre ese incidente. El jueves criticó a OpenAI por retener información sobre el hackeo del agente deshonesto, según Democracy Now!, posicionando el proyecto de ley como una respuesta legislativa directa a una industria que, según él, no puede regularse por sí misma.
Una campaña de larga duración, ahora en su punto más alto
Para Sanders, el proyecto de ley es la culminación de años de advertencias sobre los efectos económicos y sociales de la IA. Ha citado en repetidas ocasiones proyecciones de que la IA podría eliminar casi 100 millones de puestos de trabajo en Estados Unidos, pidió que se disolviera OpenAI y, en junio, propuso una legislación que pagaría a los estadounidenses 1.000 dólares al año financiados con impuestos sobre las ganancias de productividad impulsadas por la IA, como informó Gizmodo en ese momento.
El ritmo legislativo está aumentando más allá de los dos patrocinadores. Fortune informó esta semana sobre un proyecto de ley separado que gravaría los tokens de IA para financiar programas de empleo si la tecnología causa desempleo masivo. Lo que distingue a la medida Sanders-Casar es su postura: en lugar de redistribuir los beneficios de la IA o exigir su divulgación, detendría por completo una categoría de desarrollo.
El empinado camino por delante
Ninguna versión de este proyecto de ley avanza en el actual Congreso. Los republicanos controlan la agenda legislativa, la Casa Blanca se ha alineado con el desarrollo acelerado de la IA y la presencia de lobby de la industria en Washington ha crecido a la par de su valoración. Incluso entre los demócratas, las propuestas para detener el desarrollo fronterizo dividen al partido entre miembros centrados en la seguridad y aquellos que ven el liderazgo de AI como un imperativo económico y de seguridad nacional, particularmente contra China.
Eso hace que la medida se entienda mejor como un marcador más que como una probable ley: una declaración formal de la situación actual de una facción importante de la política estadounidense, y un marco que sus partidarios esperan que se convierta en el punto de referencia si la ansiedad pública sigue aumentando. El llamado de Sanders a un acuerdo internacional se hace eco de los argumentos de control de armas de la era nuclear y, al igual que esos esfuerzos, requeriría coordinación entre potencias rivales que actualmente están corriendo, no haciendo una pausa.
Lo que suceda a continuación es procesal y predecible (una audiencia, tal vez, y votos en contra seguros en el comité), pero la señal política lo es menos. Un verano en el que agentes de IA violaron la infraestructura real ha movido la "superinteligencia de prohibición" de los márgenes del debate al Registro del Congreso.
Manténgase a la vanguardia de todos los desarrollos importantes de la IA
La política de IA avanza rápidamente en Washington y más allá. Siga cada proyecto de ley, audiencia y fallo antes de que importe.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
