El director ejecutivo de OpenAI, Sam Altman, informará personalmente al Consejo de Seguridad de las Naciones Unidas la próxima semana durante la reunión anual de líderes mundiales en Nueva York para la Asamblea General de la ONU, informó Reuters el viernes, citando a un portavoz de OpenAI.
La sesión informativa tendrá lugar en una reunión abierta del Consejo de Seguridad sobre inteligencia artificial y seguridad internacional programada para el miércoles, cuando el organismo de 15 miembros se reúna durante la semana de alto nivel de la Asamblea General. La sesión ha sido convocada por Francia, que ocupará la presidencia del consejo durante septiembre, y estará presidida por el ministro francés para Europa y Asuntos Exteriores, Jean-Noël Barrot. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
"Sam Altman informará en persona en una reunión abierta del Consejo de Seguridad de la ONU la próxima semana", dijo un portavoz de OpenAI a Reuters.
Lo que se espera que diga Altman
Según Reuters, se espera que los comentarios de Altman se centren en la necesidad de coordinación internacional y estándares de seguridad compartidos, así como en los pasos que OpenAI está tomando para garantizar que las personas de todo el mundo se beneficien de la IA.
La comparecencia sitúa al ejecutivo de IA más destacado del mundo frente al organismo encargado de mantener la paz y la seguridad internacionales, en un momento en el que los gobiernos están enmarcando cada vez más la IA avanzada no sólo como una oportunidad económica sino como una tecnología con implicaciones directas para la seguridad nacional e internacional.
Lo antrópico también puede estar en la habitación
Los diplomáticos dijeron a Reuters que también esperaban una presencia de alto nivel de Anthropic en la reunión, aunque esa participación no había sido confirmada. Anthropic no respondió de inmediato a una solicitud de comentarios.
Cualquier aparición de Anthropic tendría una resonancia particular dada la postura de alto perfil de la compañía sobre el riesgo fronterizo de la IA en los últimos meses, incluidos sus llamados a una desaceleración coordinada en el desarrollo de sistemas cada vez más capaces. La reunión del Consejo de Seguridad se produce pocas semanas después de que varios líderes de la industria de la IA instaran a una desaceleración coordinada, advirtiendo que la IA pronto podría mejorar por sí sola y escapar del control humano.
El argumento de Francia a favor de la urgencia
En una nota conceptual distribuida a los miembros del consejo y vista por Reuters, Francia subrayó "la urgencia de actuar para fomentar el desarrollo seguro y responsable de la inteligencia artificial en beneficio de la comunidad internacional en su conjunto".
La nota citó el riesgo de uso indebido de la IA con fines maliciosos y dijo que la reunión tiene como objetivo permitir a los participantes presentar sus análisis de los riesgos relacionados con la pérdida de control o con el uso de los últimos modelos de IA para desarrollar, facilitar y llevar a cabo acciones con un impacto en la paz y la seguridad internacionales.
Un consejo que vuelve a un tema familiar
El Consejo de Seguridad ya se ha ocupado de la IA antes. Se reunió por primera vez sobre los riesgos de la inteligencia artificial en 2023, cuando China advirtió que la tecnología no debería convertirse en un "caballo desbocado" y Estados Unidos advirtió contra su uso para censurar o reprimir a las personas. La sesión del miércoles representa una escalada significativa en ese compromiso: mientras que en reuniones anteriores se escucharon advertencias generales, la próxima semana incluirá una sesión informativa en vivo del CEO de la compañía cuyos productos se encuentran en el centro del auge de la IA.
Altman, por su parte, ha estado advirtiendo sobre los riesgos de la IA avanzada desde mucho antes de la actual ola de éxito comercial. En un ensayo de 2015 titulado "Machine Intelligence, part 1", escribió que "el desarrollo de inteligencia artificial sobrehumana es probablemente la mayor amenaza para la existencia continua de la humanidad", una línea que es anterior al ascenso de OpenAI y que inevitablemente resurgirá cuando se dirija al consejo.
Por qué es importante
Es difícil exagerar el simbolismo de la sesión informativa. Un ejecutivo de una empresa de tecnología que se dirige al Consejo de Seguridad señala hasta qué punto la IA ha avanzado en la agenda de seguridad internacional, junto con la proliferación nuclear y la guerra cibernética. También refleja un cambio en el debate mismo: después de dos años dominados por discusiones sobre derechos de autor, empleos y desinformación, el poder de convocatoria de la ONU está apuntando directamente al riesgo fronterizo: pérdida de control, uso malicioso y ausencia de estándares internacionales compartidos.
Lo que resulte de ello es otra cuestión. El Consejo de Seguridad no tiene autoridad regulatoria sobre el desarrollo de la IA y sus resoluciones sobre tecnologías emergentes históricamente no han sido vinculantes. Pero la reunión brinda a los gobiernos un escenario para definir posiciones y brinda a las empresas de IA una audiencia de ministros de Relaciones Exteriores y jefes de Estado que ningún lanzamiento de producto podría igualar. Con Francia presionando por la urgencia y se espera que los dos principales laboratorios de IA de EE. UU. estén representados, la sesión del miércoles bien podría marcar el momento en que la gobernanza de la IA se convirtió en un tema fijo en la agenda de la diplomacia de seguridad global.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
