La startup china de IA DeepSeek estará entre las empresas que informarán esta semana al Consejo de Seguridad de las Naciones Unidas sobre los riesgos que plantea la inteligencia artificial, dijeron a Reuters dos fuentes familiarizadas con el asunto, mientras los líderes mundiales se reúnen en Nueva York para la Asamblea General anual de la ONU.
El Consejo de Seguridad de 15 miembros se reunirá el 23 de septiembre para discutir la IA y la seguridad internacional, semanas después de que varios líderes de la industria de la IA pidieran una desaceleración coordinada del desarrollo de sistemas de IA cada vez más potentes, advirtiendo que pronto podrían mejorar por sí solos y escapar del control humano. Para obtener más contexto sobre esta historia, consulte nuestra cobertura de la industria de la IA en curso.
¿Quién estará en la habitación?
El director ejecutivo de OpenAI, Sam Altman, planea informar sobre la reunión, donde los diplomáticos también esperan la participación de altos representantes de Anthropic, informó Reuters la semana pasada.
Del lado chino, DeepSeek y otras empresas chinas de inteligencia artificial, incluida Moonshot, han sido invitadas a hacer declaraciones, dijo una de las fuentes. El fundador de DeepSeek, Liang Wenfeng, no planea asistir, advirtió la fuente, señalando que los planes siguen siendo fluidos y podrían cambiar en el último minuto. DeepSeek y Moonshot no respondieron de inmediato a las solicitudes de comentarios.
La sesión tiene lugar durante una semana en la que Nueva York ya está repleta de diplomacia de IA, mientras los líderes mundiales se reúnen para la Asamblea General anual de la ONU y las reuniones paralelas se multiplican en torno a ella. Ese momento es perjudicial para DeepSeek: el visto bueno del consejo indica que los principales laboratorios de China ahora son tratados como voces indispensables en el riesgo de la IA fronteriza, incluso cuando la posición oficial de Beijing continúa rechazando la retórica de desaceleración que emerge de Silicon Valley.
La alineación inusual (el ejecutivo de IA más destacado de Estados Unidos comparte una agenda del Consejo de Seguridad con el laboratorio de peso abierto más conocido de China) hace que la sesión del miércoles sea la reunión de IA más trascendental que haya celebrado el consejo desde que abordó el tema por primera vez.
Del 'caballo fugitivo' a la IA rebelde
El Consejo de Seguridad de la ONU, encargado de mantener la paz y la seguridad internacionales, se reunió por primera vez sobre los riesgos de la IA en 2023. Incluso entonces, las fallas eran visibles: China advirtió que la tecnología no debería convertirse en un "caballo desbocado", mientras que Estados Unidos advirtió contra su uso para censurar o reprimir a las personas.
Tres años después, el debate pasó de las hipótesis a los informes de incidentes. El secretario general de la ONU, Antonio Guterres, advirtió a los líderes mundiales la semana pasada que el rápido avance de la IA plantea riesgos que no pueden ignorarse, lo que lo puso en desacuerdo con el presidente de Estados Unidos, Donald Trump, quien ha argumentado que las salvaguardias existentes son suficientes y que China se beneficiaría si se arrojaran dudas sobre el desarrollo de la IA.
El silencio público de Beijing sobre el riesgo catastrófico
Una de las observaciones más destacadas del informe de Reuters se refiere a lo que los líderes de los laboratorios chinos no han dicho. A diferencia de los jefes de los laboratorios fronterizos estadounidenses como OpenAI y Anthropic, los líderes de los principales desarrolladores de modelos de China rara vez han articulado públicamente la posibilidad de que sistemas de IA cada vez más capaces puedan engañar a los humanos, evadir el control o causar daños catastróficos, y han permanecido en gran medida en silencio sobre esos riesgos desde que se intensificó el debate en Estados Unidos en septiembre.
Los medios estatales chinos, por su parte, han desestimado los llamados a una desaceleración en el desarrollo de la IA como si surgieran de un "manual de estrategias de la Guerra Fría"; un esfuerzo, según Beijing, destinado a preservar el dominio de Washington en tecnología de punta y excluir completamente a Beijing del sistema global de gobernanza de la IA.
Por lo tanto, la aparición de DeepSeek en el consejo tiene un doble significado: es al mismo tiempo el compromiso más visible de Beijing con la conversación global sobre el riesgo de la IA y una prueba de si los laboratorios chinos se involucrarán en el marco del riesgo catastrófico.
Conversaciones antes de Trump-Xi
El período de sesiones del Consejo de Seguridad no es un caso aislado. Altos funcionarios estadounidenses y chinos acordaron mantener más conversaciones sobre la seguridad de la IA, dijo el secretario del Tesoro estadounidense, Scott Bessent, el 21 de septiembre, después de reunirse antes de las conversaciones programadas de Trump con el presidente chino Xi Jinping para finales de esta semana en Washington.
Esa secuencia (una cumbre de alto riesgo en Washington paralela a un debate del Consejo de Seguridad en Nueva York) subraya cuán completamente la IA ha pasado de ser un expediente de política técnica al centro de la relación bilateral.
Qué mirar
Tres preguntas se ciernen sobre la reunión del miércoles. Si Liang Wenfeng cambia de opinión y asiste. Si la declaración de DeepSeek aborda los riesgos de la baraja de cartas (engaño, pérdida de control) que enfatizan sus homólogos estadounidenses, o se mantiene en un terreno más seguro de acceso equitativo y derechos de desarrollo. Y si el consejo puede producir algo más allá de posiciones familiares.
El historial del consejo en materia de IA es deficiente: una primera reunión en 2023, una advertencia del secretario general este mes y ningún marco vinculante. Pero como escenario para la emergente discusión entre Estados Unidos y China sobre quién establece las reglas para la IA de frontera (y qué temores se toman en serio), tiene pocos rivales.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
