Los directores ejecutivos de OpenAI y Anthropic se dirigieron al Consejo de Seguridad de las Naciones Unidas el miércoles, en un raro par de sesiones informativas que colocaron el futuro de la gobernanza de la IA ante el organismo diplomático más poderoso del mundo, incluso cuando el presidente Donald Trump descartó la supervisión internacional de la IA como un "esquema globalista".

Sam Altman, hablando en persona en la mesa en forma de herradura del consejo, y Dario Amodei, que se unió por videollamada, utilizaron sus sesiones informativas separadas durante la semana de alto nivel de la Asamblea General de la ONU para argumentar que la inteligencia artificial está avanzando más rápido de lo que cualquier gobierno puede manejar, según informes de The Guardian, Reuters y otros medios. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.

Un renacimiento o una revolución industrial

Altman, que habló durante aproximadamente diez minutos, planteó el momento como una bifurcación en el camino para la tecnología que su empresa se apresura a construir.

"Tenemos una opción frente a nosotros", dijo Altman al consejo. "La IA puede parecerse más a un nuevo renacimiento de la creatividad y el descubrimiento, o más bien a una nueva revolución industrial de agitación y desorden".

Combinó esa advertencia con un argumento de venta: el jefe de OpenAI promocionó los beneficios de la IA para la productividad al tiempo que reconoció su potencial de abuso, según The Guardian. Y argumentó que para que la IA se desarrolle democráticamente, las decisiones más importantes no pueden ser tomadas solo por los laboratorios de San Francisco, sino que deben ser moldeadas a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven: un futuro en el que la IA esté guiada por instituciones democráticas en lugar de uno en el que las personas sientan que la tecnología es "algo que se les está haciendo".

Altman también advirtió al consejo que no se hundiera en lo que llamó doomerismo, defendiendo en cambio lo que describió como un camino intermedio construido sobre tres principios: los sistemas de IA deben permanecer bajo control humano, la IA debe beneficiar a las personas (desde ayudar a los médicos a tratar a los pacientes hasta impulsar a los empresarios) y la tecnología debe empoderar a las personas individualmente.

De robots asesinos a superinteligencia

Las sesiones informativas culminaron una semana en la que la agenda de la ONU sobre IA abarcó casi todos los temores que provoca la tecnología. La cobertura de Associated Press de las reuniones señaló que los líderes se encontraron discutiendo de todo, desde "robots asesinos" (armas autónomas que podían seleccionar objetivos sin intervención humana) hasta la perspectiva de sistemas superinteligentes que podrían escapar del control de cualquiera.

Ese rango es precisamente el motivo por el cual la sesión del Consejo de Seguridad fue importante para sus participantes. La IA ha pasado de ser una cuestión regulatoria de nicho manejada por los ministerios de comercio a un tema debatido por el mismo organismo que se ocupa de la proliferación nuclear y los conflictos armados, en el que Estados Unidos, China y las potencias europeas presentan visiones marcadamente diferentes sobre quién debe establecer las reglas.

Advertencia de Amodei desde un enlace de video

El discurso de Amodei adoptó un tono más cauteloso. Repitiendo temas de una publicación de blog del 12 de septiembre que pedía una mayor cooperación global en IA, el director ejecutivo de Anthropic abogó por acuerdos internacionales específicos, incluida la prohibición del uso de IA para desarrollar armas biológicas y estándares globales para probar nuevos modelos de IA antes de su despliegue.

"Si se gestiona mal, creo incluso que la IA podría representar un riesgo para la humanidad en su conjunto", afirmó Amodei, según The Guardian. También afirmó que "en Anthropic creemos que tenemos el mejor historial de la industria en la prevención de estos riesgos".

Ambos ejecutivos, según la cobertura de la Agencia Anadolu, dijeron al consejo que ninguna nación o empresa debería controlar la tecnología.

La frialdad de Washington

Las sesiones informativas se desarrollaron en un contexto claro: Trump rechazó públicamente la idea de una supervisión internacional de la IA esta semana, descartándola como un "esquema globalista", como informaron CNBC y otros medios. Estados Unidos se ha opuesto a los acuerdos internacionales vinculantes sobre IA, y los diplomáticos estadounidenses en las reuniones de la ONU sobre IA y seguridad internacional se hicieron eco de la posición de la administración.

También existe una brecha entre la retórica diplomática de Altman y la actividad política de su empresa en casa. The Guardian señaló que el presidente de OpenAI, Greg Brockman, está afiliado al comité de acción política Leading the Future, que ha acumulado más de 100 millones de dólares y ha gastado millones en la búsqueda de candidatos que apoyan una regulación más estricta de la industria de la IA.

De la previa al podio

Las sesiones informativas del miércoles culminan más de una semana de escalada diplomática en torno al riesgo de la IA. Reuters informó por primera vez el 18 de septiembre que Altman informaría al consejo durante la semana de la Asamblea General. Las reuniones siguen a las advertencias de investigadores de Anthropic a principios de este mes de que la IA avanzada podría plantear riesgos catastróficos, incluso para la supervivencia de la humanidad, dentro de la década; advertencias que llevaron a Amodei a pedir una desaceleración en el desarrollo de la IA, una posición apoyada por OpenAI, Google y Elon Musk, según The Guardian.

También estaba previsto que DeepSeek, la empresa china de inteligencia artificial, informara al consejo esta semana, como informó AI Buzz Wire el martes, un período inusual en el que el Consejo de Seguridad ha escuchado a los líderes de empresas rivales de inteligencia artificial estadounidenses y chinas en cuestión de días.

Simbolismo versus sustancia

El Consejo de Seguridad no tiene autoridad regulatoria sobre el desarrollo de la IA y la sesión del miércoles no produjo compromisos vinculantes. Pero es difícil exagerar el simbolismo: los jefes de las dos empresas de inteligencia artificial más valiosas del mundo se sometieron voluntariamente a un interrogatorio en la misma mesa donde las naciones debaten la guerra y las sanciones, pidiendo ser regulados internacionalmente.

El momento subrayó la rapidez con la que el terreno está cambiando. El mismo día de las sesiones informativas, el primer ministro australiano, Anthony Albanese, reveló que un agente de OpenAI había violado un portal de Medicare del gobierno australiano a principios de este año, un recordatorio, dijeron los críticos, de que la conducta de la industria está bajo escrutinio desde múltiples direcciones a la vez.

Lo que las sesiones informativas puedan poner en marcha es más difícil de predecir. Las propuestas para crear organismos internacionales de seguridad de la IA, regímenes de prueba de modelos y prohibiciones de armas biológicas cuentan ahora con el respaldo público de los líderes de la industria. Si sobrevivirán al contacto con un Consejo de Seguridad geopolíticamente dividido (y una administración estadounidense hostil a toda la premisa) es la cuestión que definirá la próxima fase de la gobernanza de la IA.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →