El Secretario General de las Naciones Unidas, António Guterres, emitió esta semana una de sus advertencias más enérgicas hasta el momento sobre la inteligencia artificial, declarando que el mundo "no puede permitirse una carrera hacia el fondo en materia de seguridad de la IA" mientras los gobiernos se preparan para reunirse en Nueva York para la semana de alto nivel de la Asamblea General de las Naciones Unidas. En declaraciones a los periodistas antes de la reunión anual de líderes mundiales, Guterres ubicó la IA desbocada junto a la crisis climática y la profundización de la desigualdad como las tres amenazas existenciales que enfrenta el planeta.
Los comentarios, informados por Reuters, Noticias de la ONU y medios de todo el mundo, llegan en un momento cargado: la ONU está presionando para una coordinación internacional vinculante sobre la gobernanza de la IA justo cuando Washington da señales de un toque más ligero, y Reuters señala que el jefe de la ONU hizo sonar su alarma después de que el presidente Trump restó importancia a la necesidad de una regulación más estricta de la IA.
"Una era de profunda incertidumbre"
En una conferencia de prensa seis días antes de la llegada de los líderes a Nueva York, Guterres dijo que el mundo había entrado en "una era de profunda incertidumbre". Reconoció el "enorme potencial" de la IA en campos como la salud, la educación y la ciencia climática, pero advirtió que la tecnología está avanzando más rápido que la comprensión humana de sus riesgos.
"El mundo no puede permitirse una carrera hacia el fondo en materia de seguridad de la IA", afirmó, argumentando que las normas nacionales por sí solas no serán suficientes. "La acción nacional es esencial, pero la coordinación global es indispensable."
El Secretario General también expresó escepticismo respecto de que las pausas voluntarias en el desarrollo de la IA en las fronteras del país puedan funcionar cuando están aisladas: limitadas a un puñado de países, no verificables o aplicadas de manera desigual. Ante el creciente temor de una carrera armamentista de IA entre Estados Unidos y China, admitió que las divisiones geopolíticas hacen que la coordinación sea más difícil, no menos necesaria. "Si creemos que el desarrollo de la IA debería ralentizarse cuando los riesgos se vuelven demasiado grandes, necesitamos más que buenas intenciones", afirmó.
La emergente maquinaria de gobernanza de la IA de la ONU
Detrás de la retórica se esconde una arquitectura de gobernanza que ha ido tomando forma silenciosamente durante los últimos dos años. El Pacto Digital Mundial, adoptado por los estados miembros de la ONU en 2024 como parte del Pacto para el Futuro, pedía dos nuevos mecanismos: un organismo científico para evaluar los riesgos y oportunidades de la IA, y un foro anual donde los gobiernos pudieran alinear sus enfoques. La Asamblea General estableció formalmente ambos en agosto de 2025.
El primero, el Panel Científico Internacional Independiente sobre IA, publicó su informe preliminar el 1 de julio. Llegó a la conclusión de que las capacidades de la IA están avanzando rápidamente (particularmente en el razonamiento, la codificación y la investigación científica), al tiempo que señala riesgos que incluyen información errónea, discriminación, violaciones de la privacidad, ataques cibernéticos y formas de "superinteligencia" que podrían volverse difíciles de controlar.
El segundo, el Diálogo Global sobre la Gobernanza de la IA, está diseñado como la parte de respuesta del par: el panel proporciona evidencia y los países deciden qué hacer con ella.
Guterres señaló al panel como la base para una toma de decisiones global informada e instó a los gobiernos a construir barreras que "hagan que la IA sea segura, transparente y responsable, con la dignidad humana en el centro". También ha impulsado dos iniciativas concretas: un Compromiso de seguridad infantil en IA y un Fondo Mundial para la IA para ayudar a los países en desarrollo a construir infraestructura y capacidad en IA.
Una división transatlántica cada vez mayor
La intervención del jefe de la ONU se produce en medio de una división visible entre el impulso regulatorio de Europa y el giro desregulador de Washington. Mientras la Unión Europea implementa su Ley de IA y los organismos de la ONU crean mecanismos de evaluación, la administración estadounidense ha enfatizado la innovación y la competitividad, y Reuters informó que el presidente Trump ha restado importancia a las preocupaciones sobre el riesgo de IA que Guterres y otros funcionarios siguen planteando.
Cuando se le preguntó qué tan rápido podría la ONU convocar una cumbre que conduzca a una regulación efectiva, Guterres dijo que no podría ocurrir durante la Asamblea General de la próxima semana, pero que debería realizarse pronto, con "todos a bordo" de los sectores público, privado, científico y de la sociedad civil.
La urgencia en su tono refleja una serie de advertencias recientes desde dentro de la propia industria. A principios de este mes, un ex investigador de Anthropic advirtió públicamente que la IA avanzada podría representar una amenaza existencial para la humanidad, y los propios comentarios de Guterres enmarcaron la trayectoria de la tecnología como una cuestión que la comunidad internacional ya no puede posponer.
¿Qué pasa después?
AI ocupará un lugar destacado cuando comience la semana de alto nivel de la Asamblea General, junto con los debates sobre las guerras en Gaza y Ucrania. La pregunta central abierta es si el panel científico de la ONU y el diálogo global pueden evolucionar de tertulias a mecanismos con influencia real sobre la política nacional, y será una pregunta que pondrá a prueba si las instituciones multilaterales pueden moverse a una velocidad cercana a la de la tecnología que están tratando de gobernar.
Por ahora, el mensaje del Secretario General a los líderes mundiales es inequívoco: los riesgos son globales, la gobernanza no lo es, y la ventana para cerrar esa brecha se está reduciendo.
_Manténgase a la vanguardia. Siga la lucha global sobre las reglas de la IA y las historias más importantes sobre inteligencia artificial en AI Buzz Wire._
