Geoffrey Hinton, lauréat du prix Nobel largement connu comme le « Parrain de l'IA », a lancé cette semaine l'un de ses avertissements les plus sévères aux législateurs américains : le Congrès a environ un an pour mettre en place des garanties significatives sur l'intelligence artificielle avant que la technologie ne échappe au contrôle humain. L'informaticien anglo-canadien a fait ces remarques le 16 septembre lors d'un briefing à huis clos du Sénat à Capitol Hill, selon NBC News.
"Peut-être un an, mais pas beaucoup plus d'un an", a déclaré Hinton devant la salle des législateurs, selon le récit de la réunion diffusé par NBC. La réunion d'information a été convoquée par le sénateur Bernie Sanders et comprenait également le physicien du MIT Max Tegmark, co-fondateur du Future of Life Institute, et la chercheuse en sécurité de l'IA Ajeya Cotra, selon plusieurs rapports de la session.
Le cœur de l'avertissement : IA Building AI
L'argument de Hinton était centré sur une étape technique spécifique plutôt que sur une hypothèse lointaine. "L'IA a maintenant atteint le point où l'IA conçoit une meilleure IA", a-t-il déclaré, selon les rapports du briefing. "C'est ce qu'on appelle l'auto-amélioration récursive... cela va devenir incontrôlable si nous ne faisons quelque chose."
Il a également déclaré aux législateurs que les délais des experts en matière de superintelligence se sont effondrés au cours de la dernière décennie. "Si vous regardez les prédictions concernant le moment où nous aurons la superintelligence, cela durait peut-être 30 ans, peut-être 50 ans", a déclaré Hinton, selon NBC News. "Ensuite, cela s'est réduit à peut-être 10 ans, peut-être 20 ans. Maintenant, les gens disent, beaucoup de chercheurs parlent seulement de quelques années."
Hinton, professeur émérite à l'Université de Toronto qui a partagé le prix Nobel de physique 2024 pour ses travaux fondamentaux sur les réseaux neuronaux, a quitté Google en 2023 et est depuis devenu le critique interne le plus éminent du domaine - avertissant que les systèmes qu'il a contribué à créer pourraient finir par surpasser et déplacer leurs créateurs.
Scepticisme à l'égard d'un « Kill Switch »
Même s’il a préconisé une réglementation rapide, Hinton a exprimé des doutes sur l’une des propositions les plus discutées : un mandat fédéral qui permettrait au gouvernement de fermer les systèmes d’IA dangereux. Il a déclaré aux législateurs qu'un tel "kill switch" ne tiendrait pas sur le long terme, selon CNN.
Son scepticisme s’est manifesté la même semaine où le sénateur Rand Paul a empêché l’adoption accélérée au Sénat d’un projet de loi républicain sur le coupe-circuit de l’IA – un épisode qui illustre à quel point même une législation minimale sur les garde-fous reste loin d’être adoptée. Le sénateur John Kennedy de Louisiane, qui a assisté à une partie de la réunion d'information, a déclaré au Washington Sun qu'il avait apprécié la discussion mais n'avait vu aucun signe que le Sénat agirait, ajoutant qu'il s'attend à ce que la prochaine décision vienne de la Maison Blanche, soulignant que le secrétaire au Trésor, Scott Bessent, fait pression pour un cadre de sécurité.
De l’autre côté de l’allée, la perspective n’était pas beaucoup plus ensoleillée. Le sénateur Rick Scott de Floride a déclaré dans une interview à NewsNation que les entreprises doivent s'autoréglementer : « Nous n'allons pas être assez intelligents pour les réglementer. Nous n'allons pas faire quelque chose ici », a-t-il déclaré, comme le rapporte le Washington Sun.
Certains démocrates ont poussé dans l’autre sens. Le représentant Yassamin Ansari de l'Arizona, qui a assisté à la réunion d'information, a écrit sur X que l'IA "peut et continuera d'échapper au contrôle humain" et que "notre fenêtre pour la réguler disparaît rapidement. Nous devons faire une pause MAINTENANT".
Une semaine de coup de fouet pour la sécurité de l'IA
Ce briefing a mis fin à une période tumultueuse du débat sur la gouvernance de l’IA. Quelques jours plus tôt, le PDG d'Anthropic, Dario Amodei, avait publié un essai appelant les laboratoires pionniers à accélérer leur développement, mettant en garde contre les risques de perte de contrôle dû au bioterrorisme – une position publiquement soutenue par d'autres dirigeants de laboratoires, selon de nombreux rapports. Le même jour où Hinton s’est adressé aux sénateurs, d’éminents chercheurs en IA, dont Andrew Ng, ont publiquement rejeté les préoccupations en matière d’extinction comme étant exagérées, soulignant ainsi un domaine qui se débat avec lui-même en public.
À Capitol Hill, l’activité a été plus bruyante que la production. Le sénateur Cory Booker a appelé le président Trump à convoquer une session extraordinaire du Congrès sur l'intelligence artificielle, tandis qu'un groupe bipartisan de résolution de problèmes a annoncé cette semaine la création d'un nouveau groupe de travail sur l'IA et les technologies émergentes. Aucune de ces mesures n’a encore donné lieu à une loi fédérale contraignante.
Pourquoi le cadrage sur un an est important
Les avertissements des pionniers de l'IA en fonction des délais sont devenus monnaie courante, mais la spécificité du calendrier de Hinton – adressé directement aux personnes ayant le pouvoir de légiférer, dans une salle exclue des dirigeants de l'industrie – marque un changement de ton. Les avertissements précédents des chercheurs projetaient généralement les risques sur des horizons de plusieurs décennies ; une fenêtre d’un an implique des réponses politiques conçues pour le Congrès actuel, et non pour les futurs.
Cela aggrave également le problème politique. Comme le montrent le scepticisme de Hinton en matière de coupe-circuit et le blocage procédural du sénateur Paul, il n'y a pas de consensus, même parmi les personnalités soucieuses de la sécurité, sur les interventions qui fonctionneraient. Hinton a fait valoir que la situation internationale – en particulier la concurrence avec la Chine – fragilise politiquement les ralentissements unilatéraux, une tension qui a jusqu’à présent contrecarré les propositions les plus sérieuses.
Ce qui se passera ensuite n'est, selon l'horloge de Hinton, qu'une question de mois. La question de savoir si le briefing modifiera ce calcul dépend d’un Sénat qui, selon les dires de ses propres membres, ne bouge pas du tout actuellement.
Gardez une longueur d'avance sur l'IA
La politique en matière d’IA évolue rapidement, tout comme tout le reste dans ce domaine. Pour plus d'actualités sur l'IA, des mises à jour sur la réglementation et des analyses, lire plus d'actualités sur l'IA →.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
