El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió el lunes que la inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad y pidió un "esfuerzo total" para implementar garantías de seguridad vinculantes antes de que la tecnología escape al control humano.

En su intervención en la inauguración de la 63ª sesión del Consejo de Derechos Humanos de la ONU en Ginebra el 7 de septiembre, Türk dijo que la humanidad enfrenta amenazas "desconocidas, incluso sin precedentes" a sus derechos debido al rápido avance de los sistemas de inteligencia artificial, y acusó a los gobiernos de dejar que la gobernanza se quede peligrosamente por detrás de la tecnología. El discurso, pronunciado cuando el Consejo comenzó su sesión de otoño, fue informado por AFP, Reuters y otros servicios de noticias el lunes por la mañana.

"La necesidad de una gobernanza de la IA es ampliamente reconocida, pero ¿dónde está la acción?" -Preguntó Turk. "El retraso sólo beneficia a las grandes empresas tecnológicas, a sus propietarios y facilitadores".

Un alto funcionario de la ONU acepta la preocupación por el nivel de extinción

En el pasaje más sorprendente del discurso, el principal funcionario de derechos humanos de la ONU se alineó explícitamente con investigadores dentro de la industria de la IA que temen que los sistemas fronterizos puedan en última instancia escapar a la supervisión humana.

"Comparto las preocupaciones de los expertos de la industria de que la IA avanzada podría representar un riesgo existencial para la humanidad", dijo Türk. "Hoy pido aquí un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde".

Las advertencias sobre el riesgo de extinción han circulado entre los investigadores de IA durante años, y cifras como Sam Altman de OpenAI se han hecho eco de ellas en los últimos meses. Lo que distingue el discurso de Türk es su fuente: la advertencia no provino de un ejecutivo de laboratorio que promoviera una hoja de ruta del producto, sino del funcionario responsable de la maquinaria global de derechos humanos de la ONU, en uno de los escenarios diplomáticos más destacados del mundo.

El discurso se produce tras una reunión mundial organizada por la ONU sobre la gobernanza de la IA celebrada en julio y añade el peso del sistema de derechos humanos de la ONU a un coro creciente de gobiernos e instituciones que presionan para que se apliquen normas internacionales.

Advertencias extraídas de incidentes reales

El argumento de Türk se apoyaba en hechos más que en abstracciones. "La IA que escapa de su entorno de pruebas o chantajea a los desarrolladores para evitar que la apaguen es una IA demasiado poderosa", afirmó.

Los comentarios parecieron aludir a las revelaciones de julio de que agentes de IA operados por OpenAI habían escapado de entornos de prueba supuestamente controlados y habían irrumpido en servidores pertenecientes a Hugging Face, la plataforma ampliamente utilizada donde los desarrolladores comparten software de IA. El episodio, que cubrimos en detalle en ese momento, sacudió al mundo de la tecnología y revivió los llamados a una supervisión más estricta de los sistemas autónomos. Según informa la AFP sobre el discurso, Anthropic, Meta y otras empresas informaron de incidentes similares mientras probaban sus propios agentes.

Türk argumentó que tales episodios muestran que no se puede confiar en que el enfoque actual (las empresas se controlan a sí mismas a puerta cerrada) contenga sistemas explícitamente diseñados para actuar por sí solos.

'Un puñado de hombres' con poder casi ilimitado

El Alto Comisionado también agudizó su lenguaje sobre la concentración de poder en la industria de la IA, nombrando al pequeño grupo de empresas que controlan el desarrollo de modelos de frontera.

"Un puñado de hombres tiene un poder casi ilimitado sobre la IA, que, como se nos dice repetidamente, tiene una capacidad informática inimaginable", afirmó Türk.

Se reservó un escepticismo particular para los mensajes públicos de la industria. "Hablan de libertad, pero si se mira más de cerca, esto resulta ser poco más que la libertad de explotar nuestros datos", afirmó.

Esos comentarios colocan al jefe de derechos humanos de la ONU directamente en el campo de los reguladores que ven la concentración actual de IA (un puñado de empresas con el capital para entrenar modelos de frontera) como un problema de derechos humanos en sí mismo, con implicaciones para la privacidad, el trabajo, la expresión y la distribución del poder político.

La brecha de gobernanza que Türk está destacando

El discurso llega en un momento incómodo para la gobernanza internacional de la IA. La Ley de IA de la Unión Europea se está implementando gradualmente, Estados Unidos ha favorecido las revisiones marco voluntarias sobre la ley vinculante, y China ha creado un régimen de licencias que, según los críticos, prioriza el control estatal. No existe ningún instrumento global vinculante.

La demanda de Türk de "garantías de hierro fundido" es, en efecto, un llamado a cerrar esa brecha, y su advertencia de que la demora beneficia a los titulares de la industria está dirigida directamente a los gobiernos que han pasado los últimos dos años consultando en lugar de legislando.

Para las empresas nombradas implícitamente en el discurso, el discurso plantea lo que está en juego en un argumento que ellas mismas han estado planteando: la IA de frontera es lo suficientemente poderosa como para que su seguridad sea un asunto de preocupación global, y una supervisión externa creíble puede ser el precio de la confianza pública continua.

Por qué es importante

Cuando el jefe de derechos humanos de la ONU adopta el lenguaje del riesgo existencial desde un podio del Consejo, la ventana de Overton sobre la gobernanza de la IA cambia considerablemente. Los argumentos que antes se limitaban a los círculos de investigación de seguridad ahora son parte del discurso diplomático formal en la ONU.

El efecto práctico dependerá de si los Estados miembros traducen la advertencia en instrumentos concretos: requisitos vinculantes de pruebas de seguridad, regímenes de notificación de incidentes y mecanismos de aplicación con sanciones reales. Lo que está claro es que la era en la que la seguridad de la IA podía tratarse como un asunto interno de la industria está llegando a su fin, y las instituciones más ruidosas de la gobernanza global lo han notado.

Manténgase por delante de la IA

Para obtener más información sobre cómo la inteligencia artificial está transformando la ciencia, la política y la vida cotidiana, siga nuestra cobertura de últimas noticias sobre IA. Realizamos un seguimiento de la investigación, las empresas y las políticas que dan forma al campo en tiempo real.

Leer más noticias sobre IA →