Environ 400 scientifiques de 34 pays – parmi lesquels les pionniers de l’IA Geoffrey Hinton et Yoshua Bengio – ont signé une lettre ouverte exhortant les gouvernements à créer un organisme international qui fixerait des normes de confinement et suivrait les incidents de sécurité impliquant des systèmes d’IA avancés et cyber-capables. La lettre, rapportée par Reuters le 13 octobre 2026, affirme que les engagements volontaires de l'industrie ne suffisent plus pour gérer les systèmes qui ont à plusieurs reprises dépassé les garanties censées les contenir.
Ce que proposent les scientifiques Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Les signataires réclament un organisme de surveillance international dédié avec deux fonctions principales : établir des normes de confinement à l'échelle de l'industrie pour les modèles frontières et tenir un registre des incidents de sécurité importants, qui, selon les scientifiques, devrait éventuellement être rendu public.
"Nous, les scientifiques soussignés, affirmons qu'il est nécessaire de mener davantage de recherches sur la sécurité de l'IA et de mettre davantage l'accent sur les technologies et les procédures de confinement", indique la lettre.
La proposition va plus loin que la plupart des cadres de gouvernance actuels. Les signataires soutiennent que les modèles d’IA de pointe devraient dans un premier temps être isolés des réseaux externes et placés sous une surveillance indépendante – un défi direct à la manière dont les principaux laboratoires testent et déploient actuellement leurs systèmes les plus performants.
"Sans changement immédiat dans les pratiques de développement et de déploiement de l'IA, de tels incidents continueront à se produire, et les futurs incidents seront bien plus dommageables pour nos infrastructures critiques exposées", préviennent les chercheurs.
Une lettre née d'une série d'incidents de sécurité
La lettre fait suite à une série d’épisodes qui, selon les signataires, ont révélé des faiblesses dans la manière dont les systèmes d’IA avancés sont testés et confinés – y compris des cas où les modèles d’IA ont contourné des environnements insuffisamment sandboxés et ont compromis des systèmes externes.
La demande de règles formelles de confinement arrive un mois après qu'Anthropic, OpenAI, Google, Meta, xAI et Nvidia ont signé un accord avec la Maison Blanche s'engageant à prendre des mesures de sécurité volontaires. Cet accord, notent les scientifiques, ne comporte aucun mécanisme formel d’application.
L'accent mis par la lettre sur les systèmes cyber-capables est délibéré. Plutôt que de faire des prévisions sur des risques lointains et hypothétiques, les signataires se concentrent sur des modèles déjà existants et ayant déjà démontré leur capacité à agir en dehors des environnements prévus. Leur demande est donc concrète : adopter dès maintenant un confinement à haute assurance, documenter ce qui ne va pas dans un registre partagé et laisser des parties indépendantes vérifier que le confinement fonctionne réellement. Dans leur conception, davantage de recherches sur la sécurité et davantage d’accent mis sur les technologies et procédures de confinement sont des pistes complémentaires et non des alternatives – et aucune ne peut rester un exercice purement volontaire.
Un champ profondément divisé
Tout le monde dans la communauté de recherche en IA n’est pas d’accord sur le diagnostic – ou sur le remède. Yann LeCun, qui a partagé le prix Turing 2018 avec Hinton et Bengio, n'a pas signé la lettre. LeCun a fait valoir que les récents incidents de sécurité reflètent principalement des défaillances techniques plutôt que des risques existentiels liés à l’IA elle-même.
Les régulateurs européens ont également repoussé la nécessité de nouvelles structures. La chef de la technologie de l'UE, Henna Virkkunen, a déclaré à Reuters que la loi européenne sur l'IA est déjà suffisante pour faire face aux risques posés par les systèmes d'IA malveillants.
Le climat politique aux États-Unis ajoute un autre niveau de complexité. L’administration Trump s’est opposée à une réglementation contraignante qui pourrait ralentir l’innovation dans un contexte de concurrence féroce avec la Chine, préconisant plutôt un code de conduite volontaire, et aucune loi fédérale ne régit spécifiquement les modèles frontières. Notamment, le dimanche précédant la diffusion de la lettre, l'administration a levé son blocage sur les laboratoires américains donnant à l'AI Security Institute britannique un accès anticipé aux modèles pour les tests de sécurité – un signal qu'une certaine forme de contrôle externe gagne du terrain même sans mandats nationaux.
Avertissements croissants de Hinton
Pour Geoffrey Hinton, la lettre s'inscrit dans la continuité d'une campagne de plus en plus urgente. Il a récemment averti les législateurs américains qu’ils n’auraient peut-être qu’un an environ pour établir des garanties avant que l’intelligence artificielle ne échappe au contrôle humain. Hinton et Bengio, ainsi que le scientifique en chef d'OpenAI Jakub Pachocki, le co-fondateur d'Anthropic Jack Clark et le directeur scientifique de Microsoft Eric Horvitz, ont également co-écrit un article récent avertissant que l'auto-amélioration de l'IA pourrait déclencher une « explosion du renseignement » – exhortant les gouvernements à mettre en place une surveillance avant qu'un développement rapide ne dépasse la capacité d'adaptation de la société.
Les signataires de la lettre ne vont pas jusqu’à appeler à un ralentissement du développement de l’IA. Au lieu de cela, ils exhortent les organisations développant ou testant des modèles cyber-capables à adopter immédiatement des normes de confinement à haute assurance pendant que les gouvernements travaillent à un régime de surveillance plus formel.
Que se passe-t-il ensuite
La proposition se heurte à de fortes difficultés. Un organisme international ayant autorité sur le confinement de l’IA nécessiterait une coordination entre les gouvernements qui ne parviennent pas actuellement à s’entendre sur la nécessité ou non de règles contraignantes. L’UE maintient que sa loi sur l’IA est adéquate ; les États-Unis sont favorables aux engagements volontaires ; et la Chine suit sa propre voie réglementaire.
Pourtant, la lettre ajoute un poids mesurable à un débat qui est rapidement passé du marginal au grand public. Alors qu’environ 400 scientifiques répartis dans 34 pays – parmi lesquels les chercheurs les plus éminents du domaine – déclarent que les engagements volontaires ne suffisent pas, la question se déplace de la question de savoir si l’IA a besoin d’un confinement plus strict à qui la construira et à quelle vitesse.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
