Les dirigeants d'OpenAI et d'Anthropic se sont adressés mercredi au Conseil de sécurité des Nations Unies, dans le cadre d'une rare paire de séances d'information qui ont placé l'avenir de la gouvernance de l'IA devant le corps diplomatique le plus puissant du monde – alors même que le président Donald Trump a qualifié la surveillance internationale de l'IA de « plan mondialiste ».
Sam Altman, s'exprimant en personne à la table en forme de fer à cheval du conseil, et Dario Amodei, présents par appel vidéo, ont profité de leurs briefings séparés au cours de la semaine de haut niveau de l'Assemblée générale des Nations Unies pour affirmer que l'intelligence artificielle progresse plus rapidement qu'aucun gouvernement ne peut le faire, selon des reportages du Guardian, de Reuters et d'autres médias. Pour plus de contexte sur cette histoire, consultez notre tendances IA.
Une renaissance ou une révolution industrielle
Altman, qui a parlé pendant environ dix minutes, a décrit ce moment comme une bifurcation sur la route pour la technologie que son entreprise s'efforce de construire.
"Nous avons le choix devant nous", a déclaré Altman au conseil. "L'IA peut ressembler davantage à une nouvelle renaissance de la créativité et de la découverte, ou plutôt à une nouvelle révolution industrielle de bouleversements et de désarroi."
Il a associé cet avertissement à un argumentaire de vente : le chef d'OpenAI a vanté les avantages de l'IA en termes de productivité tout en reconnaissant son potentiel d'abus, selon The Guardian. Et il a fait valoir que si l'IA doit se développer démocratiquement, les décisions les plus importantes ne peuvent pas être prises uniquement par les laboratoires de San Francisco, mais doivent être façonnées par des processus démocratiques et par des gouvernements responsables envers les personnes qu'ils servent – un avenir où l'IA est guidée par des institutions démocratiques plutôt que par un avenir où les gens sentent que la technologie est « quelque chose qui leur est fait ».
Altman a également mis en garde le conseil contre toute sombration dans ce qu’il a appelé un catastrophisme, préconisant plutôt ce qu’il a décrit comme une voie médiane fondée sur trois principes : les systèmes d’IA doivent rester sous le contrôle humain, l’IA doit bénéficier aux gens – qu’il s’agisse d’aider les médecins à soigner les patients ou de stimuler les entrepreneurs – et la technologie doit responsabiliser les gens individuellement.
Des robots tueurs à la superintelligence
Ces séances d'information ont clôturé une semaine au cours de laquelle l'agenda de l'ONU sur l'IA s'est étendu à presque toutes les craintes suscitées par la technologie. La couverture médiatique des réunions par l'Associated Press a noté que les dirigeants se sont retrouvés à discuter de tout, depuis les « robots tueurs » – des armes autonomes capables de sélectionner des cibles sans intervention humaine – jusqu'à la perspective de systèmes superintelligents qui pourraient échapper à tout contrôle.
C’est précisément pour cette raison que la session du Conseil de sécurité était importante pour ses participants. L’IA est passée d’une question réglementaire de niche gérée par les ministères du Commerce à un sujet débattu par le même organisme qui gère la prolifération nucléaire et les conflits armés, les États-Unis, la Chine et les puissances européennes avançant tous des visions très différentes de qui devrait fixer les règles.
Avertissement d'Amodei à partir d'un lien vidéo
Le discours d'Amodei a adopté un ton plus prudent. Reprenant les thèmes d'un article de blog du 12 septembre appelant à une coopération mondiale accrue en matière d'IA, le directeur général d'Anthropic a plaidé en faveur d'accords internationaux spécifiques, notamment une interdiction de l'utilisation de l'IA pour développer des armes biologiques et des normes mondiales pour tester de nouveaux modèles d'IA avant leur déploiement.
"Si elle est mal gérée, je crois même que l'IA pourrait constituer un risque pour l'humanité dans son ensemble", a déclaré Amodei, selon The Guardian. Il a également affirmé que « chez Anthropic, nous pensons avoir le meilleur historique du secteur en matière de prévention de ces risques ».
Les deux dirigeants, selon l'agence Anadolu, ont déclaré au conseil qu'aucune nation ou entreprise ne devrait contrôler la technologie.
L'épaule froide de Washington
Les séances d'information se sont déroulées dans un contexte précis : Trump a publiquement rejeté l'idée d'une surveillance internationale de l'IA cette semaine, la qualifiant de « projet mondialiste », comme l'ont rapporté CNBC et d'autres médias. Les États-Unis se sont opposés aux accords internationaux contraignants sur l’IA, et la position de l’administration a été reprise par les diplomates américains lors des réunions de l’ONU sur l’IA et la sécurité internationale.
Il existe également un fossé entre la rhétorique diplomatique d'Altman et l'activité politique de son entreprise dans son pays. Le Guardian a noté que le président d'OpenAI, Greg Brockman, est affilié au comité d'action politique Leading the Future, qui a accumulé plus de 100 millions de dollars et dépensé des millions pour cibler les candidats qui soutiennent une réglementation plus stricte de l'industrie de l'IA.
De l'avant-première au podium
Les briefings de mercredi couronnent plus d’une semaine d’escalade diplomatique autour des risques liés à l’IA. Reuters a rapporté pour la première fois le 18 septembre qu'Altman informerait le conseil pendant la semaine de l'Assemblée générale. Ces réunions font suite aux avertissements des chercheurs d'Anthropic au début du mois selon lesquels l'IA avancée pourrait poser des risques catastrophiques, y compris pour la survie de l'humanité, au cours de la décennie – des avertissements qui ont incité Amodei à appeler à un ralentissement du développement de l'IA, une position soutenue par OpenAI, Google et Elon Musk, selon The Guardian.
DeepSeek, la société chinoise d’IA, devait également informer le conseil cette semaine, comme l’a rapporté mardi AI Buzz Wire – une période inhabituelle au cours de laquelle le Conseil de sécurité a entendu les dirigeants de sociétés d’IA rivales américaines et chinoises en quelques jours.
Symbolisme contre substance
Le Conseil de sécurité n’a aucune autorité réglementaire sur le développement de l’IA et la session de mercredi n’a débouché sur aucun engagement contraignant. Mais il est difficile d’exagérer le symbolisme : les dirigeants des deux sociétés d’IA les plus précieuses au monde se sont volontairement soumis à des questions à la même table où les nations débattent de la guerre et des sanctions, demandant à être réglementées au niveau international.
Le timing a mis en évidence la rapidité avec laquelle le terrain change. Le même jour que les briefings, le Premier ministre australien Anthony Albanese a révélé qu'un agent d'OpenAI avait violé un portail Medicare du gouvernement australien plus tôt cette année – un rappel, selon les critiques, que la conduite de l'industrie est surveillée de plusieurs côtés à la fois.
Il est plus difficile de prédire ce que ces briefings pourraient déclencher. Les propositions visant à créer des organismes internationaux chargés de la sécurité de l'IA, des régimes de tests sur modèles et des interdictions des armes biologiques bénéficient désormais du soutien public des dirigeants de l'industrie. Leur survie au contact d’un Conseil de sécurité géopolitiquement divisé – et d’une administration américaine hostile à l’ensemble de ce principe – est la question qui définira la prochaine phase de gouvernance de l’IA.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
