Las advertencias de seguridad de los investigadores de Anthropic que dominaron el discurso sobre la IA esta semana han producido ahora algo concreto en Washington: un impulso legislativo. Reuters informó el jueves que los legisladores estadounidenses están pidiendo nuevas reglas de IA en respuesta a las declaraciones de los investigadores, mientras que la representante de Massachusetts, Lori Trahan, aprovechó una entrevista el jueves por la mañana para detallar su Ley Frontier, un proyecto de ley que impondría obligaciones vinculantes a los desarrolladores de IA fronteriza por primera vez.
Hablando en la edición matutina de WBUR, Trahan dijo que la reacción en el Capitolio a los eventos de esta semana no se parece a nada que haya visto desde que comenzó a trabajar en la regulación de la IA a principios de este año. Para obtener cobertura diaria de las políticas de IA en Washington, Bruselas y más allá, siga AI Buzz Wire, su fuente de últimas noticias sobre IA y actualizaciones sobre regulaciones.
Qué haría la Ley de Fronteras
Trahan, coautor del proyecto de ley bipartidista, lo describió como un conjunto de "reglas de camino" para un puñado de empresas cuyos modelos podrían causar daños catastróficos. La Ley de Fronteras exigiría cuatro cosas, según la congresista: requisitos de transparencia para los desarrolladores de IA de frontera, informes de incidentes, verificación independiente de las afirmaciones de seguridad del modelo y lo que ella llamó un botón de pausa del gobierno si un modelo representa un riesgo inminente de catástrofe.
"En un nivel básico, necesitamos poner barreras de seguridad en los laboratorios fronterizos", dijo Trahan, enmarcando esas disposiciones como "apuestas en juego" mientras el Congreso elabora políticas para los muchos otros sectores que tocará la IA.
'El sistema de honor': el argumento de Trahan a favor de normas vinculantes
El núcleo del argumento de Trahan es que actualmente nada vincula a los desarrolladores de los sistemas de IA más potentes. "Hoy lo único que tenemos es el sistema de honor", dijo. "La tecnología más poderosa de la historia de la humanidad está siendo regulada por sus desarrolladores."
Ella reconoció el escepticismo entre sus colegas, diciendo que algunos ven las advertencias de la semana como alarmistas o demasiado extremas. Pero describió un rápido cambio en el humor de la cámara: "Mi teléfono no ha dejado de sonar desde que Jacob Coxon hizo sonar el silbato. Creo que mis colegas están asustados. Están escuchando a sus electores que quieren que actuemos... Esta semana acaba de llegar a un punto de inflexión".
En particular, dijo que la presión no se limita a una sola parte. "No se trata sólo de los demócratas", dijo Trahan, señalando que "los republicanos del MAGA pidieron ayer una acción bipartidista. El terreno realmente ha cambiado".
Las advertencias que lo iniciaron
El fermento legislativo se remonta directamente a declaraciones de dos investigadores antrópicos. Jacob Coxon renunció a la compañía el martes y escribió en las redes sociales que Anthropic está "corriendo directamente hacia la superinteligencia de superación personal y apostando con nuestras vidas". El investigador antrópico Evan Hubinger lo respaldó públicamente y escribió: "Jacob tiene razón aquí... ¡Realmente creemos seriamente que la IA podría matar a todos los humanos! Personalmente, creo que será >10% en la próxima década".
La historia hizo metástasis a lo largo de la semana. The Hill informó que los legisladores habían hecho sonar la alarma sobre los peligros de la IA después de las advertencias, la BBC y CBS cubrieron la estimación de probabilidad de Hubinger, y NBC News informó el jueves sobre dos investigadores de IA que abandonaron Anthropic y Google por preocupaciones de seguridad, citando a uno que dijo "no hay adultos en la sala". Reuters informó el jueves que los legisladores ahora están pidiendo nuevas reglas, y también han circulado informes de que OpenAI ha buscado reglas estadounidenses que rijan potentes modelos de IA.
De advertencias a un archivo de factura
Lo que diferencia esta semana de controversias de seguridad anteriores es la velocidad de la respuesta política. Las propias revelaciones de Anthropic esta semana (un informe de inteligencia sobre amenazas que detalla campañas de uso indebido interrumpidas, incluidos posibles intentos de utilizar a Claude para desarrollar armas biológicas) dieron a las advertencias una columna vertebral probatoria de la que carecía el debate anterior, y los legisladores parecen estar actuando mientras se mantiene el momento.
El camino a seguir para la legislación sobre IA
Las perspectivas para la Ley de Fronteras siguen siendo inciertas. El Congreso ha luchado durante años para aprobar una legislación integral sobre IA, y cualquier proyecto de ley que toque la verificación obligatoria o una autoridad federal de pausa enfrentaría una intensa presión de los laboratorios que regularía, junto con luchas jurisdiccionales entre comités. Al margen, los estados no están esperando: el gobernador de California, Gavin Newsom, promulgó un conjunto de proyectos de ley de seguridad de la IA esta semana, según Los Angeles Times, manteniendo la presión para un marco federal que se anticipe a un mosaico de reglas estatales.
Por ahora, la dinámica se ha invertido. Por primera vez en este Congreso, quienes construyen modelos de frontera exigen públicamente restricciones a su propia industria, y los legisladores las están redactando.
Que esa alineación produzca leyes o meros titulares dependerá de los próximos meses. Pero la semana demostró algo que ni los laboratorios ni sus críticos pueden ignorar: la seguridad de la IA ha pasado de la sala de seminarios al conteo de votos, y los miembros que cuentan los votos dicen que finalmente son sus electores quienes les piden que actúen.
AI Buzz Wire continuará rastreando la Ley de Fronteras a medida que avanza en el Congreso.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
