OpenAI a confirmé qu'elle, Anthropic et Google DeepMind avaient mené des discussions sur la coordination de la sécurité de l'IA depuis plusieurs semaines et a déclaré soutenir une législation qui obligerait les laboratoires frontaliers à ouvrir leurs portes à des organismes de vérification indépendants.

Chris Lehane, directeur des affaires mondiales d'OpenAI, a fait cette révélation lors d'une réunion mardi, selon TechCrunch. Reuters et Bloomberg, citant les mêmes remarques, ont rapporté qu'OpenAI travaille avec Anthropic et Google sur la sécurité de l'IA. Cette confirmation transforme des semaines d'indices - y compris une interview de Fortune dans laquelle Sam Altman a reconnu des discussions privées avec d'autres leaders de l'IA - en un aveu explicite que les trois principaux laboratoires pionniers du monde se coordonnent sur la vitesse à laquelle ils évoluent et sur la manière dont leurs modèles sont vérifiés.

Pour les lecteurs qui suivent l'échange de tirs politiques plus large autour d'un ralentissement de l'IA, la couverture des mises à jour sur l'intelligence artificielle cette semaine va du co-fondateur d'Anthropic, Jack Clark, approuvant un kill switch obligatoire, au président Trump qualifiant les craintes en matière de sécurité de canular lors d'un appel sur scène avec Jensen Huang de Nvidia.

Une confirmation des semaines en préparation

Les discussions font suite à un essai publié samedi par le PDG d'Anthropic, Dario Amodei, appelant l'industrie à travailler ensemble pour ralentir le rythme du développement de l'IA de pointe afin d'éviter les risques catastrophiques. La lettre a reçu le soutien de l'ensemble du secteur, Altman, Demis Hassabis de Google et Elon Musk approuvant tous l'appel à l'action, et Altman affirmant qu'OpenAI se joindrait à l'effort.

The Information a par la suite rapporté que les trois sociétés travaillaient à la création d'un organisme de normalisation pour l'industrie de l'IA. Hassabis a fait ses preuves en la matière : en juillet, il a appelé les États-Unis à créer un nouvel organisme de normalisation qui agirait comme un organisme de surveillance de l'IA, avec le pouvoir de contrôler les modèles les plus avancés au monde et de coordonner les ralentissements à l'échelle de l'industrie si les dangers progressaient.

Ce que les remarques de Lehane ajoutent est une confirmation officielle. Jusqu'à présent, les porte-parole des laboratoires avaient largement opté pour un dialogue informel ; Le chef des affaires mondiales d’OpenAI a désormais fait état de la coordination.

L'ombre antitrust

Tout accord entre concurrents directs visant à ralentir le développement soulève d’évidentes questions antitrust, et les laboratoires le savent. Altman lui-même a noté que de telles négociations pourraient exposer les entreprises au risque de violer la loi antitrust s'il s'avérait que la coordination supprimait la concurrence. L'essai d'Amodei proposait une dérogation étroite du gouvernement qui permettrait la coordination de la sécurité sans déclencher le droit de la concurrence – un signe du sérieux avec lequel la question est prise au sérieux au sein des entreprises.

Les critiques n’ont pas tardé à souligner la tension au cœur de l’accord : les trois sociétés détenant les plus grandes parts de marché dans le domaine de l’IA de pointe ont décidé conjointement de rationner les progrès qui, aux yeux des sceptiques, ressemblent à un comportement de cartel sous couvert de sécurité. Les partisans rétorquent que le risque catastrophique est précisément le genre de problème que les concurrents ne peuvent pas résoudre unilatéralement, puisque tout laboratoire qui ralentit seul cède simplement la frontière à ses rivaux.

OpenAI adopte les contrôles tiers

Les nouvelles politiques les plus concrètes dans les remarques de Lehane concernent la législation. Il a déclaré qu'OpenAI soutient une disposition de la loi FRONTIER qui obligerait les laboratoires de pointe à autoriser des « organismes de vérification indépendants » à entrer dans leurs entreprises pour garantir que les modèles sont développés en toute sécurité. Politico a rapporté qu'OpenAI soutient un plan bipartisan de la Chambre construit autour d'évaluations de sécurité par des tiers.

Cette position aurait été impensable dans ce domaine il y a deux ans, lorsque les engagements volontaires et les équipes rouges internes constituaient la norme dans l'industrie. Il aligne désormais OpenAI sur la posture d’audit qu’Anthropic préconise depuis longtemps, et crée un rare point d’accord entre les laboratoires et l’aile du débat politique qui a passé l’année à exiger une surveillance exécutoire.

Cela provoque également une collision avec la Maison Blanche. Le président Trump a qualifié les préoccupations de sécurité de canular et a affirmé que tout ralentissement donnerait à la Chine un avantage dans la course à l’IA. Son conseiller en IA, David Sacks, un investisseur de longue date ayant des intérêts personnels dans l’industrie, a qualifié les craintes d’un risque existentiel d’exagérées. Au Royaume-Uni, les ministres restent publiquement divisés sur la même question, l'un d'entre eux exhortant le gouvernement à tenir compte des avertissements des experts, tandis que le secrétaire d'État aux Affaires, Reynolds, a rejeté l'idée d'un coupe-circuit pour les systèmes avancés.

Un combat politique sans terrain neutre

Les semaines à venir testeront si la coordination des laboratoires survit aux contacts avec les autorités de la concurrence et une administration sceptique. Un organisme de normalisation constitué par trois entreprises qui contrôlent la frontière sera confronté à des demandes visant à inclure des administrateurs indépendants, à publier ses critères et à se soumettre à un examen gouvernemental – sous peine d’être rejeté comme un cartel privé déguisé en public.

Pour le FRONTIER Act, l'approbation d'OpenAI donne aux promoteurs du projet de loi un soutien majeur, mais aussi une nouvelle ligne d'attaque pour les opposants qui soutiennent que les plus grands laboratoires ne font que capturer le domaine en écrivant des règles qu'eux seuls peuvent se permettre de suivre. Les petits laboratoires et la communauté des poids ouverts, qui n’a pas de siège aux négociations, surveillent de près : quel que soit le régime de vérification qui émergera, il définira les coûts de conformité pour tous ceux qui se trouvent derrière la frontière.

Ce qui n’est plus contesté, c’est le fait même de la coordination. Les trois sociétés qui définissent l’avant-garde de l’IA discutent désormais ouvertement de la rapidité avec laquelle elles fonctionnent – ​​et invitent le gouvernement à les aider à arbitrer.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →