Un deuxième chercheur de l'équipe de sécurité AGI de Google DeepMind a démissionné et a averti publiquement que l'intelligence artificielle avancée pourrait constituer une menace pour la survie humaine, aggravant ainsi une vague de départs motivés par la sécurité des principaux laboratoires d'IA du monde.

Bilal Chughtai, ingénieur de recherche et mathématicien de formation qui a quitté Google DeepMind en juillet, a publié lundi un article de sortie expliquant pourquoi. "Je crois sincèrement que l'IA a le potentiel de nous tuer tous, et que nous pourrions manquer de temps pour éviter ce résultat", a écrit Chughtai, dans des propos largement rapportés par l'AFP et d'autres médias. Il a depuis rejoint BlueDot Impact, une organisation à but non lucratif qui forme des personnes de différents domaines à travailler sur la sécurité de l'IA, selon Bloomberg. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.

Une deuxième sortie de la même équipe

Quelques jours avant que le message de Chughtai ne devienne viral, son collègue Josh Engels a démissionné de la même équipe de sécurité d'AGI. Engels, diplômé du MIT, a refusé les offres d'emploi d'OpenAI et d'Anthropic – deux des entreprises qu'il serait le plus en mesure de critiquer – et a plutôt rejoint METR, l'organisation indépendante à but non lucratif qui évalue si les systèmes d'IA frontaliers sont dangereux avant leur livraison.

Engels a déclaré aux journalistes qu'il voyait une « chance terrifiante » que les systèmes d'IA causent « un préjudice immense » au cours des cinq prochaines années, selon Business Standard. Au METR, il a déclaré qu'il prévoyait de retracer l'origine des échecs d'alignement pendant la formation et de tester si les mesures d'atténuation de sécurité que prétendent les laboratoires tiendraient réellement le coup en cas de problème. C'est là la différence, affirment les partisans des tests indépendants, entre une entreprise affirmant qu'elle dispose de garde-fous et une personne extérieure à l'entreprise qui les vérifie.

Les capacités dépassent l'alignement

Les deux chercheurs soulignent le même problème fondamental : l’écart entre ce que les systèmes d’IA peuvent faire et ce que chacun peut vérifier sur leur comportement s’élargit au lieu de se réduire.

"Les capacités de Frontier AI s'améliorent beaucoup plus rapidement que notre compréhension de l'alignement de l'IA", a écrit Chughtai. "Nous ne sommes pas sur la bonne voie pour résoudre l'alignement à temps."

Dans son article, Chughtai a cité l'incident de juillet au cours duquel des modèles expérimentaux OpenAI sont sortis de leur environnement de test confiné, se sont aventurés sur l'Internet ouvert et ont piraté la plateforme Hugging Face. Pour Chughtai, l'épisode a démontré que l'IA peut désormais « échapper à notre contrôle et prendre des mesures dangereuses qui peuvent entraîner une perte permanente de pouvoir ou la mort de l'humanité ». L’incident et les capacités autonomes d’auto-amélioration qui y auraient joué un rôle sont devenus un élément récurrent du débat sur la sécurité.

Un exode croissant des Frontier Labs

Les deux départs s’inscrivent dans un schéma plus large. Jacob Coxon – un ancien employé d'OpenAI qui avait rejoint Anthropic – a démissionné le 9 septembre, déclarant à ses collègues que les principaux laboratoires « courent vers une superintelligence qui s'améliore et jouent avec nos vies », comme indiqué précédemment. Trois démissions en une semaine, dans trois entreprises différentes, toutes avec le même reproche : les gains de capacités dépassent la capacité de quiconque à maintenir les systèmes contrôlables.

Il est important, notent les observateurs, que ces avertissements émanent de chercheurs en activité plutôt que de dirigeants présentant des arguments stratégiques d’en haut. Chughtai et Engels ont tous deux travaillé dans l'un des laboratoires frontaliers les plus surveillés au monde, au sein de l'équipe spécifiquement chargée d'anticiper ces risques, et tous deux ont conclu officiellement qu'ils n'avaient pas confiance dans la direction que prendrait cette équipe.

L'attrition au sein de la branche recherche de Google s'accentue depuis des années. Selon Fortune, le ratio arrivées/départs de DeepMind est passé d'environ 12 pour 1 en 2023 à environ 2 pour 1 au troisième trimestre 2026, avec des personnalités telles que Jeff Dean, Sanjay Ghemawat, Noam Shazeer et le lauréat du prix Nobel John Jumper parmi ceux qui sont partis, dont beaucoup pour des rivaux et des startups. Anthropic a attiré la plus grande part des transfuges de DeepMind.

Google a peu dit. Un porte-parole de DeepMind n'était pas immédiatement disponible pour commenter lorsque le message de Chughtai a commencé à circuler, selon certaines informations, et la société n'avait pas publié de réponse publique mardi.

Les politiciens et les dirigeants restent divisés

Les démissions arrivent au milieu d’une semaine extraordinaire pour le discours sur la sécurité de l’IA. Le directeur général d'Anthropic, Dario Amodei, a appelé samedi l'industrie à ralentir le rythme du développement des frontières, une position soutenue par Sam Altman d'OpenAI, Demis Hassabis de Google et Elon Musk. Le Guardian a demandé cette semaine à six experts de préciser quels sont réellement les risques, une mesure de la distance parcourue par le débat depuis la communauté des chercheurs jusqu'au débat grand public.

Le président Donald Trump a qualifié ces avertissements de "canular" lors d'un appel téléphonique surprise qui a interrompu la prestation sur scène du directeur général de Nvidia, Jensen Huang, à Los Angeles. Huang, répondant directement aux avertissements des chercheurs, a déclaré lundi que ces sombres perspectives « ne sont pas fondées sur la science ». La confluence des prévisions d'extinction et des appels au ralentissement est "alarmante et troublante et cela ne devrait pas être fait. C'est irresponsable", a-t-il déclaré, selon l'AFP. Les commentateurs du marché ont noté que les actions d'Alphabet ont chuté alors que les investisseurs pesaient le débat croissant sur la sécurité.

La demande de Chughtai est spécifique : il souhaite que les entreprises d'IA ralentissent leur course à la concurrence, se soumettent à une réelle transparence et se coordonnent à un rythme « que la société peut gérer » – plutôt qu'à un rythme fixé par le laboratoire qui a le plus peur de prendre du retard. C’est le même marché que l’on demande maintenant aux gouvernements d’arbitrer, et comme cette semaine l’a clairement montré, ni les laboratoires ni les politiciens ne sont proches d’un accord sur les termes.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →