Le secrétaire général des Nations Unies, António Guterres, a lancé cette semaine l'un de ses avertissements les plus forts à ce jour sur l'intelligence artificielle, déclarant que le monde « ne peut pas se permettre un nivellement par le bas en matière de sécurité de l'IA », alors que les gouvernements se préparent à se réunir à New York pour la semaine de haut niveau de l'Assemblée générale des Nations Unies. S’adressant aux journalistes avant la réunion annuelle des dirigeants mondiaux, António Guterres a placé l’IA incontrôlée aux côtés de la crise climatique et de l’aggravation des inégalités comme les trois menaces existentielles auxquelles la planète est confrontée.
Ces remarques, rapportées par Reuters, UN News et des médias du monde entier, surviennent à un moment chargé : l’ONU fait pression pour une coordination internationale contraignante sur la gouvernance de l’IA au moment même où Washington signale une approche plus légère, Reuters notant que le chef de l’ONU a tiré son alarme après que le président Trump ait minimisé la nécessité d’une réglementation plus stricte de l’IA.
"Une ère de profonde incertitude"
S'adressant à la presse six jours avant l'arrivée des dirigeants à New York, Guterres a déclaré que le monde était entré dans « une ère de profonde incertitude ». Il a reconnu « l’énorme potentiel » de l’IA dans des domaines tels que la santé, l’éducation et la science du climat, mais a averti que la technologie progresse plus rapidement que la compréhension humaine de ses risques.
"Le monde ne peut pas se permettre un nivellement par le bas en matière de sécurité de l'IA", a-t-il déclaré, affirmant que les règles nationales à elles seules ne suffiraient pas. "Une action nationale est essentielle, mais une coordination mondiale est indispensable."
Le Secrétaire général a également exprimé son scepticisme quant au fait que les pauses volontaires dans le développement de l’IA aux frontières peuvent fonctionner lorsqu’elles sont isolées – limitées à une poignée de pays, invérifiables ou appliquées de manière inégale. Face aux craintes croissantes d’une course aux armements en matière d’IA entre les États-Unis et la Chine, il a reconnu que les divisions géopolitiques rendaient la coordination plus difficile, mais pas moins nécessaire. "Si nous pensons que le développement de l'IA devrait ralentir lorsque les risques deviennent trop importants, nous avons besoin de plus que de bonnes intentions", a-t-il déclaré.
Les mécanismes émergents de gouvernance de l'IA de l'ONU
Derrière ce discours se cache une architecture de gouvernance qui a discrètement pris forme au cours des deux dernières années. Le Pacte numérique mondial, adopté par les États membres de l'ONU en 2024 dans le cadre du Pacte pour l'avenir, préconise deux nouveaux mécanismes : un organisme scientifique chargé d'évaluer les risques et les opportunités de l'IA, et un forum annuel où les gouvernements pourraient aligner leurs approches. L’Assemblée générale a officiellement créé les deux en août 2025.
Le premier, le Groupe scientifique international indépendant sur l'IA, a publié son rapport préliminaire le 1er juillet. Il conclut que les capacités de l'IA progressent rapidement – notamment en matière de raisonnement, de codage et de recherche scientifique – tout en signalant des risques tels que la désinformation, la discrimination, les violations de la vie privée, les cyberattaques et les formes de « superintelligence » qui pourraient devenir difficiles à contrôler.
Le second, le Dialogue mondial sur la gouvernance de l’IA, est conçu comme l’aspect réponse du duo : le panel fournit des preuves et les pays décident quoi en faire.
Guterres a souligné que le panel était le fondement d'une prise de décision mondiale éclairée et a exhorté les gouvernements à construire des garde-fous qui « rendent l'IA sûre, transparente et responsable, avec la dignité humaine au centre ». Il a également soutenu deux initiatives concrètes : un AI Child Safety Pledge et un Fonds mondial pour l'IA pour aider les pays en développement à construire des infrastructures et des capacités en matière d'IA.
Une fracture transatlantique qui s’élargit
L'intervention du chef de l'ONU intervient au milieu d'une fracture visible entre la poussée réglementaire de l'Europe et le virage déréglementaire de Washington. Alors que l’Union européenne met en œuvre sa loi sur l’IA et que les organes de l’ONU élaborent des mécanismes d’évaluation, l’administration américaine a mis l’accent sur l’innovation et la compétitivité, et Reuters a rapporté que le président Trump a minimisé les inquiétudes sur les risques liés à l’IA que Guterres et d’autres responsables continuent de soulever.
Interrogé sur la rapidité avec laquelle l'ONU pourrait convoquer un sommet débouchant sur une réglementation efficace, Guterres a répondu que cela ne pourrait pas avoir lieu lors de l'Assemblée générale de la semaine prochaine – mais devrait avoir lieu bientôt, avec « tout le monde à bord » des secteurs public, privé, scientifique et de la société civile.
L’urgence de son ton reflète une série d’avertissements récents provenant de l’intérieur même de l’industrie. Plus tôt ce mois-ci, un ancien chercheur d'Anthropic a publiquement averti que l'IA avancée pourrait constituer une menace existentielle pour l'humanité, et les propres remarques de Guterres ont présenté la trajectoire de la technologie comme une question que la communauté internationale ne peut plus différer.
Que se passe-t-il ensuite
L'IA occupera une place importante au début de la semaine de haut niveau de l'Assemblée générale, parallèlement aux débats sur les guerres à Gaza et en Ukraine. La question centrale reste ouverte de savoir si le groupe scientifique et le dialogue mondial de l’ONU peuvent évoluer du stade de débat vers des mécanismes ayant une réelle influence sur la politique nationale – et qui permettra de tester si les institutions multilatérales peuvent évoluer à la vitesse de la technologie qu’elles tentent de gouverner.
Pour l'instant, le message du Secrétaire général aux dirigeants du monde est sans ambiguïté : les risques sont mondiaux, la gouvernance ne l'est pas, et les possibilités de réduire cet écart se rétrécissent.
_Gardez une longueur d'avance. Suivez la lutte mondiale pour les règles de l'IA et les plus grandes histoires en matière d'intelligence artificielle sur AI Buzz Wire._
