Le directeur général d'OpenAI, Sam Altman, fera un exposé en personne au Conseil de sécurité des Nations Unies la semaine prochaine lors du rassemblement annuel des dirigeants mondiaux à New York pour l'Assemblée générale des Nations Unies, a rapporté vendredi Reuters, citant un porte-parole d'OpenAI.

La réunion d'information aura lieu lors d'une réunion publique du Conseil de sécurité sur l'intelligence artificielle et la sécurité internationale prévue mercredi, lorsque l'organe composé de 15 membres se réunira pendant la semaine de haut niveau de l'Assemblée générale. La session a été convoquée par la France, qui assure la présidence du Conseil pour septembre, et sera présidée par le ministre français de l'Europe et des Affaires étrangères, Jean-Noël Barrot. Pour plus de contexte sur cette histoire, consultez notre actualités IA.

"Sam Altman fera un exposé en personne lors d'une réunion ouverte du Conseil de sécurité de l'ONU la semaine prochaine", a déclaré à Reuters un porte-parole d'OpenAI.

Ce qu'Altman devrait dire

Selon Reuters, les remarques d'Altman devraient se concentrer sur la nécessité d'une coordination internationale et de normes de sécurité communes, ainsi que sur les mesures prises par OpenAI pour garantir que les gens du monde entier bénéficient de l'IA.

Cette apparition place le responsable mondial de l'IA le plus éminent devant l'organisme chargé du maintien de la paix et de la sécurité internationales, à un moment où les gouvernements présentent de plus en plus l'IA avancée non seulement comme une opportunité économique, mais comme une technologie ayant des implications directes pour la sécurité nationale et internationale.

Anthropic peut également être dans la pièce

Des diplomates ont déclaré à Reuters qu'ils s'attendaient également à une présence de haut niveau d'Anthropic à la réunion, bien que cette participation n'ait pas été confirmée. Anthropic n'a pas immédiatement répondu à une demande de commentaire.

Toute apparition d'Anthropic aurait une résonance particulière étant donné la position très médiatisée de l'entreprise sur les risques liés à l'IA ces derniers mois, y compris ses appels à un ralentissement coordonné du développement de systèmes de plus en plus performants. La réunion du Conseil de sécurité intervient quelques semaines seulement après que plusieurs dirigeants de l’industrie de l’IA ont appelé à un ralentissement coordonné, avertissant que l’IA pourrait bientôt s’améliorer d’elle-même et échapper au contrôle humain.

L'urgence de la France

Dans une note conceptuelle distribuée aux membres du Conseil et consultée par Reuters, la France a souligné « l'urgence d'agir pour favoriser un développement sûr et responsable de l'intelligence artificielle au profit de la communauté internationale dans son ensemble ».

La note évoque le risque d'utilisation abusive de l'IA à des fins malveillantes et précise que la réunion vise à permettre aux participants de présenter leur analyse des risques liés à la perte de contrôle ou à l'utilisation des derniers modèles d'IA pour développer, faciliter et mener des actions ayant un impact sur la paix et la sécurité internationales.

Un Conseil revenant sur un thème familier

Le Conseil de sécurité a déjà abordé la question de l’IA. Il s'est réuni pour la première fois sur les risques de l'intelligence artificielle en 2023, lorsque la Chine a averti que la technologie ne devait pas devenir un « cheval fou » et que les États-Unis ont mis en garde contre son utilisation pour censurer ou réprimer les gens. La session de mercredi représente une escalade significative dans cet engagement : là où les réunions précédentes ont donné lieu à des avertissements généraux, celle de la semaine prochaine comprendra un briefing en direct du PDG de l'entreprise dont les produits sont au centre du boom de l'IA.

Altman, pour sa part, a mis en garde contre les risques avancés liés à l’IA bien avant la vague actuelle de succès commercial. Dans un essai de 2015 intitulé « Machine Intelligence, part 1 », il écrivait que « le développement d’une intelligence machine surhumaine est probablement la plus grande menace à l’existence continue de l’humanité » – une phrase antérieure à l’essor d’OpenAI et qui reviendra inévitablement lors de son discours au conseil.

Pourquoi c'est important

Il est difficile d’exagérer le symbolisme du briefing. Un dirigeant d’une entreprise technologique s’adressant au Conseil de sécurité montre à quel point l’IA a progressé dans l’agenda de la sécurité internationale, aux côtés de la prolifération nucléaire et de la cyberguerre. Cela reflète également un changement dans le débat lui-même : après deux années dominées par des débats sur le droit d’auteur, l’emploi et la désinformation, le pouvoir fédérateur de l’ONU est directement dirigé vers le risque frontalier : perte de contrôle, utilisation malveillante et absence de normes internationales communes.

Ce qui en résulte est une autre question. Le Conseil de sécurité n’a aucune autorité réglementaire sur le développement de l’IA et ses résolutions sur les technologies émergentes ont toujours été non contraignantes. Mais la réunion donne aux gouvernements une tribune pour prendre position – et offre aux entreprises d’IA un public de ministres des Affaires étrangères et de chefs d’État qu’aucun lancement de produit ne pourrait égaler. Alors que la France insiste sur l'urgence et que les deux principaux laboratoires américains d'IA devraient être représentés, la session de mercredi pourrait bien marquer le moment où la gouvernance de l'IA est devenue un point fixe à l'ordre du jour de la diplomatie de sécurité mondiale.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →