Le dossier d'introduction en bourse modifié d'Anthropic a fait la une des journaux lundi en ce qui concerne ses résultats financiers : environ 17 milliards de dollars de revenus au troisième trimestre, contre 895,4 milliards de dollars d'engagements de calcul. Mais enfouie dans les facteurs de risque du S-1A révisé se cache une révélation qui pourrait s'avérer plus conséquente : l'entreprise affirme qu'elle est peut-être sur le point de franchir son propre seuil d'auto-amélioration récursive, le point auquel les systèmes d'IA deviennent capables d'accélérer leur propre développement.
TechCrunch a rapporté que le dossier semble avertir qu'Anthropic est sur le point de créer un modèle capable d'auto-amélioration récursive, communément appelé RSI – le stade auquel l'IA devient si efficace pour améliorer l'IA que les gains de capacités commencent à s'accumuler de façon spectaculaire. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Ce que dit réellement le dossier
Anthropic utilise déjà l’IA pour accélérer sa propre recherche et développement. Dans le dossier modifié, la société prévient que cette pratique va dans les deux sens : « L'utilisation de l'IA pour aider à construire une IA plus performante pourrait également poser un risque considérable pour la sécurité, en particulier si elle accélère fortement le rythme des progrès. C'est l'un des domaines couverts par notre politique de mise à l'échelle responsable, qui définit nos plans pour surveiller et atténuer les risques à mesure que nous approchons de ce qui a été appelé « l'auto-amélioration récursive ».
Le nouveau langage sur les facteurs de risque va plus loin que ce qu’Anthropic a déclaré précédemment dans ses documents publics. La société révèle que, dans le passé, elle n'a pas réussi à reconnaître les progrès majeurs en matière de capacités au fur et à mesure qu'ils se produisaient : « nous n'avons pas identifié dans le passé, et nous ne pourrons peut-être pas identifier à l'avenir, une accélération significative de notre rythme de développement avant qu'elle ne se soit produite ».
Vient ensuite la déclaration qui attire l’attention de l’industrie. Selon le dossier : « nos estimations internes et nos attentes concernant les modèles futurs, plutôt que nos modèles actuels, indiquent que nous pourrions bientôt répondre à la définition de notre politique de mise à l'échelle responsable de « progrès considérablement accélérés attribuables à l'IA ».
Anthropic ajoute qu'il "n'a désigné aucun de nos modèles actuels comme dépassant ce seuil" et continue d'évaluer les données sous-jacentes. En d’autres termes : aucun modèle actuel de Claude n’est admissible, mais les projections internes de l’entreprise suggèrent que sa prochaine génération le pourrait.
Garder les humains au courant
Parallèlement à cet avertissement, Anthropic s'engage à garder les gens maîtres du développement du modèle. "Nous ne prévoyons pas de pouvoir utiliser Claude en toute sécurité pour concevoir et construire de manière totalement autonome des générations successives de modèles frontières sans supervision ou compréhension humaine significative, si et quand cela devient techniquement possible", indique le dossier. "En conséquence, nous envisageons de mettre à jour notre politique de mise à l'échelle responsable afin de garder les humains sous le contrôle du développement des modèles frontières chez Anthropic."
L’ampleur du rôle de l’IA dans les propres recherches d’Anthropic augmente rapidement. Business Insider a rapporté que l'IA représente désormais environ un quart du travail interne de R&D d'Anthropic, contre 1 % en mars – un graphique que les initiés du secteur ont qualifié d'un des plus importants en matière d'IA.
Un changement de discours : du mot à la mode au bilan
Lorsque le terme RSI est devenu populaire plus tôt cette année, de nombreux acteurs du secteur l'ont rejeté comme un mot à la mode ou, au mieux, comme un objectif trop mal défini pour être atteint, prouvé ou réglementé. Ce scepticisme est plus difficile à soutenir maintenant que le concept apparaît, avec une définition interne précise, dans un document qu'une entreprise est légalement tenue de déposer auprès de la SEC avant de vendre des actions au public.
Anthropic n’est pas non plus le seul à considérer l’auto-amélioration comme une hypothèse de planification à court terme. Le cofondateur de Google, Sergey Brin, a décrit l'industrie comme une course vers un « tapis roulant RSI » dans lequel les modèles aident à construire leurs successeurs, et l'ancien cofondateur d'OpenAI, John Schulman, a déclaré qu'il s'attend à une auto-amélioration récursive d'ici environ trois à quatre ans. Ce qui distingue la divulgation d'Anthropic est sa formalité : un seuil défini, un processus de mesure interne et une déclaration publique du moment où l'entreprise prévoit de le franchir.
Pourquoi RSI est la surveillance des deux camps Tripwire
RSI a des significations différentes selon qui le décrit. Pour les chercheurs en sécurité de l’IA, cela représente le point de non-retour – le scénario dans lequel les systèmes d’IA s’améliorent plus rapidement que les humains ne peuvent comprendre, valider ou intervenir, échappant potentiellement au contrôle humain. Pour les optimistes de l’IA, la même dynamique est la récompense : des systèmes qui s’améliorent de manière fiable se traduiraient par une productivité et des découvertes scientifiques extraordinaires.
Le cadre d'Anthropic reconnaît les deux possibilités. La divulgation se trouve dans un document dont le public principal est constitué d'investisseurs, et les sceptiques notent qu'un S-1 fonctionne à la fois comme divulgation et comme marketing – une affirmation selon laquelle l'entreprise est sur le point de construire une IA auto-améliorée pourrait tout aussi facilement être interprétée comme un argument en faveur de sa valorisation.
Il existe cependant un point d’ancrage concret à cette affirmation. Les capacités de Claude en matière de codage, de mathématiques et de cybersécurité ont fortement progressé jusqu'en 2026, et la propre politique de mise à l'échelle responsable d'Anthropic définit la norme de « progrès considérablement accélérés attribuables à l'IA » que l'entreprise affirme désormais pouvoir respecter de manière imminente.
Un test pour la gouvernance de l'IA
Cette divulgation intervient au milieu des débats politiques qui s'intensifient sur la surveillance de l'IA aux frontières, du cadre de la Maison Blanche pour l'examen des modèles frontières aux discussions internationales sur la gouvernance informatique. Si un laboratoire d'IA de premier plan désigne officiellement un modèle comme répondant à son propre seuil de progrès accéléré, cela déclencherait des obligations en vertu de la politique de mise à l'échelle responsable d'Anthropic - et constituerait le premier test réel pour savoir si de tels cadres industriels peuvent ralentir ou façonner la course aux capacités dans la pratique.
Pour l’instant, Anthropic affirme qu’aucun modèle n’a franchi la ligne. Le dossier suggère que la société s’attend à ce que cette ligne soit bientôt franchie – et demande aux investisseurs de comprendre à l’avance ce qu’elle envisage de faire à ce sujet.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
