Geoffrey Hinton, el premio Nobel ampliamente conocido como el "Padrino de la IA", lanzó esta semana una de sus advertencias más duras hasta el momento a los legisladores estadounidenses: el Congreso tiene aproximadamente un año para poner salvaguardias significativas a la inteligencia artificial antes de que la tecnología escape al control humano. El informático británico-canadiense hizo estas declaraciones el 16 de septiembre en una sesión informativa a puertas cerradas del Senado en el Capitolio, según NBC News.
"Tal vez un año, pero no mucho más de un año", dijo Hinton en la sala de legisladores, según el relato de la reunión de NBC. La sesión informativa fue convocada por el senador Bernie Sanders y también contó con la participación del físico del MIT Max Tegmark, cofundador del Future of Life Institute, y de la investigadora de seguridad de la inteligencia artificial, Ajeya Cotra, según múltiples informes de la sesión.
El núcleo de la advertencia: IA construyendo IA
El argumento de Hinton se centró en un hito técnico específico más que en una hipótesis distante. "La IA ha llegado al punto en el que está diseñando una mejor IA", dijo, según los informes de la sesión informativa. "Eso se llama superación personal recursiva... se saldrá de control a menos que hagamos algo".
También dijo a los legisladores que los plazos de los expertos para la superinteligencia se han derrumbado durante la última década. "Si nos fijamos en las predicciones de cuándo tendremos superinteligencia, solían ser quizás 30 años, quizás 50 años", dijo Hinton, según NBC News. "Luego todo se redujo a tal vez 10 años, tal vez 20 años. Ahora la gente dice, muchos investigadores dicen que sólo unos pocos años".
Hinton, profesor emérito de la Universidad de Toronto que compartió el Premio Nobel de Física de 2024 por su trabajo fundamental en redes neuronales, dejó Google en 2023 y desde entonces se ha convertido en el crítico interno más destacado del campo, advirtiendo que los sistemas que ayudó a crear podrían terminar siendo mejores en pensamiento y desplazando a sus creadores.
Escepticismo ante un 'interruptor de emergencia'
Incluso cuando instó a una regulación rápida, Hinton expresó dudas sobre una de las propuestas más discutidas: un mandato federal que permitiría al gobierno cerrar sistemas peligrosos de IA. Dijo a los legisladores que tal "interruptor de apagado" no se mantendría en el largo plazo, según CNN.
Su escepticismo aterrizó la misma semana en que el senador Rand Paul bloqueó un proyecto de ley de interruptor de apagado de IA liderado por los republicanos para que no fuera acelerado en el Senado, un episodio que ilustra cuán lejos aún está de aprobarse una legislación mínima de barrera. El senador John Kennedy de Luisiana, que asistió a parte de la sesión informativa, dijo al Washington Sun que disfrutó la discusión pero no vio ninguna señal de que el Senado fuera a actuar, y agregó que espera que la próxima medida venga de la Casa Blanca, señalando el informe de que el Secretario del Tesoro, Scott Bessent, está presionando para que se establezca un marco de seguridad.
El panorama al otro lado del pasillo no era mucho más optimista. El senador Rick Scott de Florida dijo en una entrevista de NewsNation que las empresas necesitan regularse a sí mismas: "No vamos a ser lo suficientemente inteligentes para regularlas. No vamos a conseguir que se haga nada aquí", dijo, según informó The Washington Sun.
Algunos demócratas impulsaron la dirección contraria. El representante Yassamin Ansari de Arizona, que asistió a la sesión informativa, escribió en X que la IA "puede y seguirá yendo más allá del control humano" y que "nuestra ventana para regularla está desapareciendo rápidamente. Debemos hacer una pausa AHORA".
Una semana de latigazo en la seguridad de la IA
La sesión informativa coronó un tramo tumultuoso en el debate sobre la gobernanza de la IA. Días antes, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo pidiendo a los laboratorios fronterizos que aceleren el desarrollo, advirtiendo sobre los riesgos de la pérdida de control hasta el bioterrorismo, una posición respaldada públicamente por otros líderes de laboratorios, según informes generalizados. El mismo día que Hinton se dirigió a los senadores, destacados investigadores de IA, incluido Andrew Ng, descartaron públicamente las preocupaciones sobre la extinción como exageradas, subrayando un campo que está discutiendo consigo mismo en público.
En Capitol Hill, la actividad ha sido más ruidosa que la producción. El senador Cory Booker ha pedido al presidente Trump que convoque una sesión especial del Congreso sobre inteligencia artificial, mientras que un grupo bipartidista de solucionadores de problemas anunció esta semana un nuevo grupo de trabajo sobre inteligencia artificial y tecnologías emergentes. Nada de esto ha producido todavía una ley federal vinculante.
Por qué es importante el marco de un año
Las advertencias de los pioneros de la IA basadas en plazos se han vuelto rutinarias, pero la especificidad del cronograma de Hinton (entregada directamente a las personas con autoridad para legislar, en una sala excluida para los ejecutivos de la industria) marca un cambio de tono. Las advertencias anteriores de los investigadores generalmente han proyectado el riesgo en horizontes de décadas; una ventana de un año implica respuestas políticas diseñadas para el Congreso actual, no para los futuros.
También agudiza el problema político. Como muestran el escepticismo del propio Hinton sobre el interruptor automático y el bloqueo procesal del senador Paul, no hay consenso, ni siquiera entre figuras preocupadas por la seguridad, sobre qué intervenciones funcionarían. Hinton ha argumentado que la situación internacional –particularmente la competencia con China– hace que las desaceleraciones unilaterales sean políticamente frágiles, una tensión que ha obstaculizado las propuestas más serias hasta ahora.
Lo que suceda a continuación es, según el propio reloj de Hinton, cuestión de meses. Que el informe cambie ese cálculo depende de un Senado que, según las cuentas de sus propios miembros, actualmente no se está moviendo en absoluto.
Manténgase por delante de la IA
La política de IA avanza rápidamente, al igual que todo lo demás en este campo. Para obtener más noticias de última hora sobre IA, actualizaciones de regulaciones y análisis, leer más noticias sobre IA →.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
