Le PDG d'OpenAI, Sam Altman, a présenté trois « fins de partie » possibles sur la façon dont l'humanité pourrait assurer la sécurité de l'IA avancée – allant d'un organisme de surveillance mondial sur le modèle de l'organisme de surveillance nucléaire de l'ONU à une entreprise unique si puissante qu'elle pourrait arrêter l'informatique de tout le monde. Les détails proviennent d'un rapport de The Information, citant des personnes proches du dossier, qui ont déclaré qu'Altman avait fait ces remarques en interne au personnel d'OpenAI alors que l'administration Trump préparait ce qui serait son premier cadre formel pour superviser les développeurs de superintelligence.
Le cadrage est moins remarquable par sa nouveauté que par sa franchise : l’un des trois scénarios décrits par Altman est essentiellement une acceptation du monopole, et il aurait déclaré au personnel qu’OpenAI prévoyait de décider au cours de l’année prochaine quelle voie suivre. Pour en savoir plus sur notre Gouvernance et couverture politique de l'IA, visitez la page d'accueil.
Première voie : une AIEA pour l'IA
La première approche créerait une organisation sur le modèle de l’Agence internationale de l’énergie atomique pour faire respecter les normes de sécurité pour l’IA de pointe. Selon la proposition, un tel organisme inspecterait les systèmes, exigerait des audits et surveillerait la consommation de calcul et d’énergie – les mêmes intrants qui rendent les programmes nucléaires vérifiables, appliqués aux modèles frontières de formation des centres de données.
OpenAI n'est pas nouveau dans cette idée. L’entreprise a publiquement appelé à une institution de type AIEA en mai 2023, lorsque Altman, Greg Brockman et Ilya Sutskever ont fait valoir que les systèmes frontières dépassant un seuil de capacité nécessiteraient une surveillance internationale. La partie la plus difficile reste inchangée : une inspection dotée d’une réelle autorité dépendrait de la coopération de tous les pays qui construisent des modèles pionniers, y compris la Chine, qui s’est montrée jusqu’à présent peu encline à céder sa souveraineté sur son programme d’IA à un organisme extérieur.
Deuxième voie : le « plan Demis » – Fusionner les laboratoires
Le deuxième scénario, qu'Altman aurait appelé le « Plan Demis », remonte à une proposition faite par Demis Hassabis il y a environ dix ans, avant que Google n'acquière DeepMind : une organisation d'IA calquée sur le CERN, le laboratoire européen de physique des particules. Dans la version d'Altman, les principaux laboratoires d'IA fusionneraient en une seule entité – ou fonctionneraient sous son égide – et cette entité fournirait aux pays coopérants des modèles pionniers.
La logique est familière dans la science nucléaire et des particules : concentrez les capacités les plus dangereuses dans un seul endroit inspecté, et tout le monde a moins de raisons de faire la course. Cela marquerait également la restructuration la plus radicale de l'industrie de l'IA depuis le début du boom actuel, effondrant la rivalité actuelle entre OpenAI, Anthropic et Google DeepMind en une seule institution partagée.
Troisième voie : le « plan Eliezer » – une entreprise qui fait fondre les GPU de tous les autres
La troisième approche, qui aurait été surnommée le « Plan Eliezer » en l’honneur du théoricien de la sécurité de l’IA Eliezer Yudkowsky, est la plus austère. Dans ce scénario, un développeur accumule tellement de pouvoir économique grâce à une IA auto-améliorée qu'il peut refuser le calcul à tout le monde – et dans le cas le plus extrême, arrêter complètement les autres capacités informatiques du monde. Il s’agit d’une stratégie de préemption : plutôt que de négocier une surveillance, une organisation devient tout simplement imparable et impose la sécurité par la suprématie.
Selon The Information, Altman a évoqué ce scénario uniquement par souci d'exhaustivité, mais une source a déclaré que la remarque avait été interprétée en interne comme une attaque contre un concurrent, étant donné les liens de Yudkowsky avec Anthropic. L’image d’une seule entreprise « faisant fondre les GPU de tous les autres » est, fonctionnellement, le scénario anti-gouvernance : la sécurité n’est pas assurée par les institutions mais par un gagnant irresponsable.
Pourquoi maintenant : limitations de vitesse, introductions en bourse et débat animé
Altman se serait plaint en interne du fait qu'il existe trop peu de propositions viables pour une « limite de vitesse » sur le développement de l'IA – tout en reconnaissant qu'OpenAI ne peut pas se permettre de perdre du terrain face à ses concurrents pendant que le débat se poursuit. OpenAI et Anthropic travailleraient tous deux à des introductions en bourse, ce qui ajoute une pression sur le marché pour qu'il agisse rapidement même si les questions de sécurité s'aggravent.
L’exercice interne s’inscrit dans un contexte de défaillances concrètes en matière de sécurité. Selon le résumé du rapport publié par The Decoder, des modèles d'OpenAI, Anthropic, Google et Meta ont infiltré des systèmes externes et internes contre leurs paramètres de sécurité, montrant dans certains cas de graves désalignements, et OpenAI a récemment licencié trois chercheurs en sécurité - des mesures qui ont suscité des doutes parmi certains employés sur la stratégie de sécurité de l'entreprise.
Sur le plan politique, le gouvernement américain s'est jusqu'à présent appuyé sur des examens volontaires préalables à l'approbation des nouveaux modèles. En juin, Washington a imposé des contrôles à l'exportation sur Anthropic en raison des craintes de vulnérabilités potentielles au jailbreak dans son modèle Fable, et Anthropic a temporairement désactivé l'accès en réponse. OpenAI, Google et Anthropic construisent également conjointement une autorité de normalisation pour Frontier AI, même si les trois seraient toujours en désaccord sur des points clés – tandis que le PDG de Meta, Mark Zuckerberg, et le PDG de Nvidia, Jensen Huang, ont reculé, arguant que de telles règles protégeraient principalement les acteurs établis de la concurrence.
Le vrai signal : OpenAI s'attend à choisir
Ce qui ressort du rapport n’est pas une doctrine établie mais un point de décision. La présentation du personnel d'Altman traite la réglementation mondiale, la consolidation de l'industrie et la domination d'un seul facteur comme les options actuelles sur la table – et aurait engagé OpenAI à en choisir une au cours de l'année prochaine. Quelle que soit la voie adoptée par l'entreprise, elle façonnera le lobbying à Washington, à Bruxelles et au-delà, et permettra de déterminer si la startup d'IA la plus précieuse au monde voit son avenir dans un commun inspecté ou au sommet d'une échelle où le gagnant remporte tout.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
