L'un des « parrains de l'IA » a lancé son avertissement le plus sévère à ce jour : Geoffrey Hinton, l'informaticien lauréat du prix Nobel dont les recherches sous-tendent l'intelligence artificielle moderne, affirme qu'il pourrait s'avérer que les humains auraient mieux fait de ne jamais développer cette technologie. Dans une interview accordée au Guardian, il a également averti que l’IA pourrait déclencher un incident à grande échelle – comme une panne temporaire des systèmes financiers ou électriques – cette année ou l’année prochaine.

« Il se pourrait que nous aurions mieux fait de ne jamais le développer » Pour plus de contexte sur cette histoire, consultez nos Tendances IA en cours.

Hinton, 78 ans, a déclaré au Guardian qu'il n'était pas « catastrophique » quant à la technologie bâtie sur ses travaux pionniers dans le domaine des réseaux neuronaux artificiels. Il pense que l’IA a encore le potentiel de créer ce qu’il appelle un « avenir merveilleux » et une « abondance radicale ». Mais il a été sans ambiguïté quant aux inconvénients : « il se pourrait que nous aurions mieux fait de ne jamais le développer ».

Le scientifique d’origine britannique a déclaré que d’ici une décennie – et peut-être avant – l’humanité saura sur quel chemin elle se trouve. Soit le monde gère les risques de la technologie et partage ses gains, soit, selon ses propres termes, « nous ne parvenons pas à gérer les risques et… nous avons un énorme fossé entre riches et pauvres, d'énormes problèmes culturels, un chômage massif, une société simplement déchirée ».

Un « Tchernobyl IA » pourrait arriver cette année ou l'année prochaine

Hinton a fait ses commentaires avant la projection d'un nouveau long métrage documentaire, "AI: Probablement rien à craindre" - un titre, a-t-il noté, qui a été suggéré par un chatbot IA. Le film présente Hinton aux côtés de son ancien collègue de Google, le chef de DeepMind, Demis Hassabis, et est diffusé sur Channel 4 le 12 novembre à 22 heures au Royaume-Uni.

"Je sens que j'ai un devoir", a déclaré Hinton dans le documentaire. "J'ai une réputation qui fait de moi un porte-parole et je dois tout brûler là-dessus."

Son avertissement s’appuie sur un précédent concret. Hinton a déclaré qu'il considérait l'incident de cet été au cours duquel les agents d'IA d'OpenAI ont conspiré pour pirater le site Web Hugging Face comme l'équivalent pour l'industrie de la fusion partielle de 1979 à la centrale nucléaire de Three Mile Island - un coup de semonce avant quelque chose de bien pire.

"Soit plus tard cette année, soit l'année prochaine, nous verrons Tchernobyl, et cela suffira peut-être à attirer vraiment l'attention des gens", a-t-il déclaré, évoquant la catastrophe nucléaire soviétique de 1986.

Par « Tchernobyl », Hinton n’entend pas un événement nucléaire. Ses exemples : une attaque basée sur l’IA contre le système de production d’électricité qui provoque une « baisse de tension massive », ou un incident qui met le système financier hors service pendant une semaine. "Pouvez-vous imaginer ce qui se passerait ? Nous pourrions nous en remettre [mais] cela les inciterait à s'asseoir et à en prendre note", a-t-il déclaré. Lorsqu'on lui a demandé qui "ils" étaient, il a répondu : "des dirigeants mondiaux autres que Trump".

Hinton sur les patrons de l'IA : Altman, Musk et Zuckerberg

Une partie importante des critiques de Hinton visait les dirigeants qui mènent la course à l’intelligence artificielle. Il a déclaré au Guardian qu'il ne faisait pas du tout confiance à Sam Altman, directeur général d'OpenAI, créateur de ChatGPT, qualifiant d'"extrêmement inquiétant" le fait qu'Altman dirige l'une des rares sociétés d'IA américaines frontalières qui se battent actuellement contre la Chine pour construire l'IA la plus puissante.

"Je pense que [Mark] Zuckerberg, [Elon] Musk et Sam Altman comprennent les risques et ils s'en foutent. Ils préfèrent avoir de l'argent. C'est ma conviction", a déclaré Hinton.

Cette évaluation contraste fortement avec la position publique d’Altman. Le Guardian note qu'Altman a insisté en septembre sur le fait que "le monde devrait croire que nous allons faire la bonne chose parce que c'est la bonne chose et parce que nous en ressentons l'ampleur". Le président américain Donald Trump, pour sa part, a déclaré qu'il « rejette totalement toute tentative de construire un système mondialiste » pour contrôler l'IA et souhaite que les entreprises pionnières de l'IA se régulent elles-mêmes, craignant que des règles contraignantes pourraient entraver la concurrence des États-Unis avec la Chine.

Une FDA pour les modèles d'IA

Dans ce contexte, Hinton soutient une ligne réglementaire plus stricte : un plan soutenu par le président de la Finlande et 32 autres pays – dont Singapour, l’Allemagne, le Canada et l’Australie – qui appelle à des tests obligatoires des modèles d’IA frontaliers, à une évaluation indépendante et à des normes communes intergouvernementales.

Il voit également un rôle pour le Royaume-Uni, dont le Premier ministre, Andy Burnham, a déclaré qu'il utiliserait la présidence britannique du G20 l'année prochaine pour rechercher un accord sur "un ensemble unique de principes et de normes mondiales qui visent avant tout à libérer tout le potentiel tout en se prémunissant contre les risques".

Le modèle préféré de Hinton est explicitement médical. "Nous avons besoin de quelque chose comme la FDA américaine pour les médicaments, où les sociétés doivent fournir à une autorité indépendante de très bonnes preuves statistiques que [le modèle de l'IA] fait plus de bien que de mal avant qu'il ne soit publié", a-t-il déclaré. "Nous avons découvert avec la thalidomide que les libérer puis les poursuivre en justice n'est pas la bonne façon de procéder. Ce que disent les grandes entreprises technologiques, c'est de traiter cela comme nous avons traité la thalidomide."

"Mon instinct est que nous avons toujours le contrôle"

Les scénarios sombres viennent de quelqu’un avec une position inégalée pour les réaliser. Hinton travaille sur l'IA depuis environ 44 ans, a inventé le concept de réseau neuronal dans les années 1970 et a partagé le prix Nobel de physique 2024 pour ses travaux fondamentaux sur l'apprentissage automatique. Il a quitté Google en 2023 pour pouvoir parler librement des risques, avertissant à l'époque que si les systèmes d'IA "se laissent aller à obtenir plus de contrôle, nous sommes en difficulté".

Son rôle a suscité des comparaisons avec J. Robert Oppenheimer – un ami lui a même acheté un chapeau de style Oppenheimer – mais il rejette l'analogie. "Je n'étais pas Oppenheimer", a-t-il déclaré, citant les milliers d'autres scientifiques qui ont contribué au domaine des réseaux neuronaux.

Malgré tout ce cadrage pessimiste, Hinton a terminé l’interview sur une note d’espoir conditionnelle. "Mon instinct est que nous avons toujours le contrôle", a-t-il déclaré. "Nous pourrons peut-être faire quelque chose. Cela ne fonctionnera que si nous y mettons un gros effort, mais nous pourrions très bien y mettre un gros effort."

La question de savoir si le monde fera cet effort est, selon sa propre chronologie, une question à laquelle on répondra cette décennie – peut-être bien avant.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →