La startup chinoise d'IA DeepSeek fera partie des entreprises qui informeront cette semaine le Conseil de sécurité des Nations Unies des risques posés par l'intelligence artificielle, ont déclaré à Reuters deux sources proches du dossier, alors que les dirigeants du monde se réunissent à New York pour l'Assemblée générale annuelle des Nations Unies.
Le Conseil de sécurité, composé de 15 membres, doit se réunir le 23 septembre pour discuter de l’IA et de la sécurité internationale – quelques semaines après que plusieurs dirigeants de l’industrie de l’IA ont appelé à un ralentissement coordonné du développement de systèmes d’IA de plus en plus puissants, avertissant qu’ils pourraient bientôt s’améliorer d’eux-mêmes et échapper au contrôle humain. Pour plus de contexte sur cette histoire, consultez notre couverture continue de l'industrie de l'IA.
Qui sera dans la salle
Le directeur général d'OpenAI, Sam Altman, prévoit de rendre compte de la réunion, à laquelle les diplomates s'attendent également à la participation de hauts représentants d'Anthropic, a rapporté Reuters la semaine dernière.
Du côté chinois, DeepSeek et d’autres sociétés chinoises d’IA, dont Moonshot, ont été invitées à faire des déclarations, a indiqué l’une des sources. Le fondateur de DeepSeek, Liang Wenfeng, ne prévoit pas d'y assister, a prévenu la source, soulignant que les plans restent fluides et pourraient changer à la dernière minute. DeepSeek et Moonshot n'ont pas immédiatement répondu aux demandes de commentaires.
La session aura lieu au cours d’une semaine où New York regorge déjà de diplomatie de l’IA, alors que les dirigeants du monde se réunissent pour l’Assemblée générale annuelle des Nations Unies et que les réunions parallèles se multiplient autour de celle-ci. Ce timing joue dans les deux sens pour DeepSeek : l'imprimatur du conseil indique que les principaux laboratoires chinois sont désormais traités comme des voix indispensables sur les risques liés à l'IA, même si la position officielle de Pékin continue de rejeter la rhétorique du ralentissement émergeant de la Silicon Valley.
Cette programmation inhabituelle – le plus éminent dirigeant américain de l'IA partageant un ordre du jour du Conseil de sécurité avec le laboratoire à poids ouvert le plus connu de Chine – fait de la session de mercredi la réunion sur l'IA la plus importante que le conseil ait tenue depuis qu'il a abordé le sujet pour la première fois.
De « Runaway Horse » à Rogue AI
Le Conseil de sécurité de l'ONU, chargé de maintenir la paix et la sécurité internationales, s'est réuni pour la première fois sur les risques de l'IA en 2023. Même alors, les lignes de fracture étaient visibles : la Chine a averti que la technologie ne devait pas devenir un « cheval fou », tandis que les États-Unis ont mis en garde contre son utilisation pour censurer ou réprimer les gens.
Trois ans plus tard, le débat s'est déplacé des hypothèses vers les rapports d'incidents. Le secrétaire général de l'ONU, Antonio Guterres, a averti la semaine dernière les dirigeants du monde que les progrès rapides de l'IA posaient des risques qui ne pouvaient être ignorés, ce qui le mettait en désaccord avec le président américain Donald Trump, qui a soutenu que les garanties existantes étaient suffisantes et que la Chine gagnerait à ce que le développement de l'IA soit mis en doute.
Le silence public de Pékin sur le risque catastrophique
L’une des observations les plus pointues des reportages de Reuters concerne ce que les dirigeants des laboratoires chinois n’ont pas dit. Contrairement aux dirigeants des laboratoires pionniers américains tels qu'OpenAI et Anthropic, les dirigeants des principaux développeurs chinois de modèles ont rarement évoqué publiquement la possibilité que des systèmes d'IA de plus en plus performants puissent tromper les humains, échapper au contrôle ou causer des dommages catastrophiques – et ils sont restés largement silencieux sur ces risques depuis que le débat s'est intensifié aux États-Unis en septembre.
Les médias d'État chinois, pour leur part, ont rejeté les appels au ralentissement du développement de l'IA comme découlant d'un « manuel de guerre froide » – un effort, selon Pékin, visant à préserver la domination de Washington dans les technologies de pointe et à exclure complètement Pékin du système mondial de gouvernance de l'IA.
La participation de DeepSeek au conseil revêt donc une double signification : il s'agit à la fois de l'engagement le plus visible de Pékin dans le débat mondial sur les risques liés à l'IA et d'un test pour savoir si les laboratoires chinois s'engageront réellement dans la définition des risques catastrophiques.
Pourparlers avant Trump-Xi
La session du Conseil de sécurité n’est pas autonome. De hauts responsables américains et chinois ont convenu de poursuivre les discussions sur la sécurité de l'IA, a déclaré le 21 septembre le secrétaire américain au Trésor, Scott Bessent, après s'être rencontrés avant les entretiens prévus entre Trump et le président chinois Xi Jinping plus tard cette semaine à Washington.
Ce séquencement – un sommet aux enjeux élevés à Washington parallèlement à un débat du Conseil de sécurité à New York – souligne à quel point l’IA est passée d’un dossier de politique technique au centre de la relation bilatérale.
Que regarder
Trois questions pèsent sur la réunion de mercredi. Si Liang Wenfeng change d'avis et y assiste. Que la déclaration de DeepSeek engage les risques du jeu de cartes – tromperie, perte de contrôle – que soulignent ses homologues américains, ou qu'elle reste sur un terrain plus sûr d'accès équitable et de droits au développement. Et si le conseil peut produire autre chose que des positions familières.
Le bilan du conseil en matière d’IA est mince : une première réunion en 2023, un avertissement du secrétaire général ce mois-ci et aucun cadre contraignant. Mais en tant que scène du débat naissant entre les États-Unis et la Chine sur qui fixe les règles de l’IA aux frontières – et dont les craintes sont prises au sérieux – il a peu de rivaux.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
