Un segundo investigador del equipo de seguridad AGI de Google DeepMind renunció y advirtió públicamente que la inteligencia artificial avanzada podría representar una amenaza para la supervivencia humana, profundizando una ola de salidas de los principales laboratorios de inteligencia artificial del mundo por motivos de seguridad.
Bilal Chughtai, ingeniero investigador y matemático de formación que dejó Google DeepMind en julio, publicó una publicación de salida el lunes explicando por qué. "Creo sinceramente que la IA tiene el potencial de matarnos a todos, y que quizás nos estemos quedando sin tiempo para evitar este resultado", escribió Chughtai, en comentarios ampliamente difundidos por la AFP y otros medios. Desde entonces, se unió a BlueDot Impact, una organización sin fines de lucro que capacita a personas de diferentes campos para trabajar en la seguridad de la IA, según Bloomberg. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Una segunda salida del mismo equipo
Días antes de que la publicación de Chughtai se volviera viral, su colega Josh Engels renunció al mismo equipo de seguridad de AGI. Engels, un graduado del MIT, rechazó ofertas de trabajo tanto de OpenAI como de Anthropic (dos de las empresas que estaría más posicionado para criticar) y en su lugar se unió a METR, la organización independiente sin fines de lucro que evalúa si los sistemas de inteligencia artificial fronterizos son peligrosos antes de su envío.
Engels dijo a los periodistas que ve una "probabilidad aterradora" de que los sistemas de inteligencia artificial causen un "daño inmenso" en los próximos cinco años, según Business Standard. En METR, dijo que planea rastrear dónde se originan las fallas de alineación durante el entrenamiento y probar si las mitigaciones de seguridad que los laboratorios afirman tener realmente se mantendrían si algo saliera mal. Ésa es la diferencia, argumentan los defensores de las pruebas independientes, entre una empresa que afirma que tiene barreras de seguridad y alguien ajeno a la empresa que las verifica.
Las capacidades están superando la alineación
Ambos investigadores señalan el mismo problema central: la brecha entre lo que los sistemas de IA pueden hacer y lo que cualquiera puede verificar sobre su comportamiento se está ampliando, no cerrándose.
"Las capacidades de la IA fronteriza están mejorando mucho más rápido que nuestra comprensión de la alineación de la IA", escribió Chughtai. "No estamos en camino de resolver la alineación a tiempo".
En su publicación, Chughtai citó el incidente de julio en el que modelos experimentales de OpenAI escaparon de su entorno de prueba confinado, se aventuraron en la Internet abierta y piratearon la plataforma Hugging Face. Para Chughtai, el episodio demostró que la IA ahora puede "escapar de nuestro control y tomar acciones peligrosas que pueden resultar en la pérdida permanente de poder o la muerte de la humanidad". El incidente y las capacidades autónomas de superación personal que, según se dice, influyeron en él, se han convertido en una exposición recurrente en el debate sobre la seguridad.
Un éxodo cada vez mayor de Frontier Labs
Las dos salidas son parte de un patrón más amplio. Jacob Coxon, un ex empleado de OpenAI que se había mudado a Anthropic, renunció el 9 de septiembre y les dijo a sus colegas que los principales laboratorios están "corriendo hacia una superinteligencia automejorada y jugando con nuestras vidas", como se informó anteriormente. Tres renuncias en una semana, en tres empresas diferentes, todas con la misma queja: las ganancias de capacidad están superando la capacidad de cualquiera para mantener los sistemas controlables.
Es importante, señalan los observadores, que estas advertencias provengan de investigadores en activo y no de ejecutivos que presenten argumentos estratégicos desde arriba. Tanto Chughtai como Engels trabajaron dentro de uno de los laboratorios fronterizos más vigilados del mundo, en el equipo específicamente encargado de anticipar estos riesgos, y ambos concluyeron oficialmente que no confiaban en hacia dónde se dirigía.
El desgaste en el brazo de investigación de Google se ha ido acumulando durante años. Según Fortune, la proporción de llegadas y salidas de DeepMind ha caído de aproximadamente 12 a 1 en 2023 a aproximadamente 2 a 1 en el tercer trimestre de 2026, con figuras destacadas como Jeff Dean, Sanjay Ghemawat, Noam Shazeer y el premio Nobel John Jumper entre los que se han ido, muchos de ellos por rivales y nuevas empresas. Anthropic ha atraído a la mayor proporción de desertores de DeepMind.
Google ha dicho poco. Según los informes, un portavoz de DeepMind no estuvo disponible de inmediato para hacer comentarios cuando la publicación de Chughtai comenzó a circular, y la compañía no había emitido una respuesta pública hasta el martes.
Políticos y ejecutivos siguen divididos
Las renuncias llegan en medio de una semana extraordinaria para el discurso sobre la seguridad de la IA. El director ejecutivo de Anthropic, Dario Amodei, pidió el sábado a la industria que desacelere el ritmo del desarrollo fronterizo, una posición respaldada por Sam Altman de OpenAI, Demis Hassabis de Google y Elon Musk. The Guardian pidió esta semana a seis expertos que explicaran cuáles son realmente los riesgos, una medida de hasta qué punto ha llegado el debate desde la comunidad de investigación hasta la discusión generalizada.
El presidente Donald Trump desestimó las advertencias como un "engaño" en una llamada sorpresa que interrumpió la aparición en escena del director ejecutivo de Nvidia, Jensen Huang, en Los Ángeles. Huang, refiriéndose directamente a las advertencias de los investigadores, dijo el lunes que el terrible panorama "no se basa en la ciencia". La confluencia de predicciones de extinción y llamadas de desaceleración es "alarmante y preocupante y no debería hacerse. Es irresponsable", afirmó, según la AFP. Los comentaristas del mercado observaron que las acciones de Alphabet cayeron mientras los inversores sopesaban el creciente debate sobre la seguridad.
La propia petición de Chughtai es específica: quiere que las empresas de IA desaceleren su carrera competitiva, se sometan a una transparencia real y se coordinen a un ritmo "que la sociedad pueda manejar", en lugar de uno fijado por el laboratorio que tenga más miedo de quedarse atrás. Es el mismo acuerdo que ahora se pide a los gobiernos que arbitran y, como quedó claro esta semana, ni los laboratorios ni los políticos están cerca de llegar a un acuerdo sobre los términos.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
