Bill Gates, autrefois l'un des plus éminents optimistes de l'industrie technologique en matière d'IA, avertit désormais que l'intelligence artificielle est plus dangereuse que ce que l'industrie veut publiquement reconnaître. Dans un essai de près de 6 000 mots sur son blog Gates Notes et une interview avec le New York Times publiée cette semaine, le co-fondateur de Microsoft décrit la transition vers l'ère de l'IA comme « l'une des périodes les plus turbulentes de l'histoire de l'humanité » – et affirme que le monde n'a aucun plan pour cela.

Ses critiques les plus virulentes visent sa propre industrie, qu'il accuse de minimiser délibérément les dangers car les enjeux sont trop importants. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

"Très inquiet" en privé, silencieux en public

"En privé, les gens qui comprennent à quel point tout cela est bon et à quel point cela s'améliore sont très inquiets", a déclaré Gates au Times. En public, dit-il, les mêmes personnes se disent : « Hé, mec, ne dis pas ça. C'est mauvais pour nous – le prochain billion de dollars que nous essayons de récolter.

L’essai rejette l’idée privilégiée par l’industrie selon laquelle les entreprises devraient se contrôler elles-mêmes. "L'autorégulation sur l'outil le plus dangereux jamais inventé ? Non, merci !" Gates écrit.

Trois dangers pour lesquels Gates dit que le monde n'est pas prêt

Gates structure son avertissement autour de trois risques que Fortune a résumés comme un « retard de développement » de l’enfant, des criminels enhardis et la disparition des emplois pour la génération Z – risques auxquels, selon lui, les dirigeants mondiaux ne sont pas préparés.

Perte d'emploi permanente. Gates s'attend à ce que les postes de niveau débutant et intermédiaire dans les domaines de la vente, du service client, du développement de logiciels et du support juridique soient touchés en premier, les cols bleus étant sous pression une fois que les robots agiles deviendront considérablement moins chers – le développement, note-t-il, se produit en grande partie en Chine. Il cite une étude de Stanford montrant que depuis la propagation de l’IA, l’emploi des jeunes travailleurs occupant les emplois les plus exposés a déjà sensiblement diminué, tandis que les collègues plus âgés ont jusqu’à présent été épargnés. Armes biologiques. Au-delà du marché du travail, Gates prévient que l'IA abaisse la barrière pour un petit groupe de personnes ayant accès à des modèles avancés pour développer de nouveaux agents pathogènes. Il reconnaît la réalité inconfortable selon laquelle les capacités utiles et dangereuses sont difficiles à séparer : le même modèle qui trouve une faille de sécurité pour la combler peut aider quelqu'un à l'exploiter. Compagnons addictifs de l'IA. Sur le plan personnel, Gates souligne les dommages psychologiques et sociaux causés par les chatbots qui ne sont jamais en désaccord et sont toujours disponibles. Il cite des recherches de Stanford et de Carnegie Mellon montrant que plus les gens utilisaient ces systèmes de manière intense et émotionnelle, plus ils se sentaient mal – avec une préoccupation particulière pour les enfants et pour l’érosion de la pensée critique à l’ère des deepfakes et de la désinformation sur mesure.

Pourquoi Gates pense que cette fois-ci est différente

Une partie des assurances données par l'industrie repose sur l'histoire : les bouleversements technologiques passés ont finalement créé plus d'emplois qu'ils n'en ont détruit. Gates qualifie cela d’erreur, décrivant l’ère de l’IA comme « complètement, absolument, complètement, totalement différente » des changements passés.

Contrairement à l’ordinateur personnel, qui a mis deux décennies à remodeler le travail, l’IA fonctionne sur des appareils que les gens possèdent déjà et parle un langage simple. "Nous n'avons pas besoin de nous y adapter car il peut s'adapter à nous", écrit-il. Pour la première fois, une technologie peut remplacer puis surpasser la cognition humaine dans tous les secteurs en une seule décennie plutôt qu’au fil des générations.

Le signal d’alarme, dit Gates, est venu de son propre terrain : la programmation. Claude Code d'Anthropic, a-t-il déclaré au Times, l'a choqué. "L'idée selon laquelle maintenant ces choses sont, dans un sens significatif, meilleures que moi, c'est du genre : qu'est-ce qui se passe ?"

Taxes, traités et emplois « humains réservés »

Les recommandations de Gates sont concrètes. Il appelle à un processus démocratique et à de nouvelles institutions de contrôle nationales et internationales, calquées sur les régimes construits pour les armes nucléaires, l’aviation et la protection de la couche d’ozone. Il propose une taxe symbolique sur l’utilisation de l’IA et sur les robots, soulignant une asymétrie dans le système actuel : l’embauche d’une personne déclenche des charges sociales, tandis que l’achat d’un robot peut être amorti immédiatement – ​​subventionnant ainsi l’automatisation.

Il soutient également que certains emplois, en particulier celui de soignant, devraient rester réservés aux humains, une idée qu'il qualifie de « réservée aux humains ».

Gates admet ouvertement un possible conflit d’intérêts : il entretient toujours des liens financiers avec l’industrie technologique, même s’il affirme que les bénéfices vont à la Fondation Gates. Et il prend soin de noter les énormes avantages de la technologie – dans les domaines de la science, de la santé, de l’agriculture dans les pays pauvres et de l’éducation – en arguant seulement que ces avantages doivent être garantis par des politiques plutôt que laissés aux forces du marché.

Un ton durcissant avec beaucoup de compagnie

Le changement de rhétorique de Gates est frappant. En 2018, il a décrit l’IA comme un logiciel essentiellement meilleur et espérait des vacances plus longues. En 2022, il a fait valoir que les travailleurs déplacés seraient absorbés par les soins aux personnes âgées et aux enfants. Pas plus tard qu’en septembre 2024, il doutait que l’IA puisse modifier fondamentalement le problème de la désinformation.

Il n'est pas non plus seul. Le PDG d'Anthropic, Dario Amodei, a mis en garde contre les armes biologiques générées par l'IA en 2024 et a prédit qu'en 2025, jusqu'à la moitié des emplois de bureau de premier échelon pourraient disparaître, avec un chômage grimpant jusqu'à 10 à 20 pour cent. Amodei a également lancé une taxe symbolique. Et les chercheurs Gary Marcus et Anka Reuel ont proposé en 2023 une agence mondiale d’IA à but non lucratif sur le modèle de l’Agence internationale de l’énergie atomique.

La différence est désormais le messager : l’homme qui a fait de l’industrie du PC une force mondiale a conclu que cette vague ne suit pas les anciennes règles – et qu’attendre que l’industrie se répare n’est pas un plan.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →