Le PDG de Nvidia, Jensen Huang, affirme qu'il y a « 0 % de chance » que l'intelligence artificielle détruise le monde d'ici 2030, rejetant catégoriquement les avertissements d'extinction provenant des chercheurs en sécurité des laboratoires d'IA rivaux.

S'exprimant dans une interview avec CBS News citée jeudi par Bloomberg, Huang a rejeté les prédictions d'une catastrophe provoquée par l'IA comme étant alarmistes avec des arrière-pensées, et a fait valoir qu'aucune nouvelle réglementation gouvernementale n'est nécessaire au-delà des règles déjà en place.

Ces remarques placent le directeur général de Nvidia carrément à l'opposé de l'argument le plus controversé du secteur – et creusent le fossé public entre les sociétés vendant des calculs d'IA et les laboratoires construisant des modèles de pointe. Pour les lecteurs qui suivent le différend, notre couverture d'actualités sur l'IA a suivi de près l'impasse en matière de sécurité au cours des deux dernières semaines.

'Il y a 0 % de chance'

"Je ne suis pas du tout d'accord avec l'idée que l'IA détruira le monde d'ici 2030", a déclaré Huang dans l'interview. "Je crois que les affirmations de fin du monde, qui suscitent la peur à travers l'Amérique, et le fait que ceux qui le font le font n'ont aucun sens pour moi. Donc, ils doivent le faire pour des raisons cachées. Peut-être que c'est politique, peut-être que c'est autre chose, peut-être que c'est juste accrocheur [...] Quelle que soit la manière dont cela est caractérisé, 2030 ne sera pas la fin du monde. Il y a 0% de chance que ce soit la fin du monde. "

Les commentaires de Huang visaient, au moins en partie, Evan Hubinger, l'ancien responsable de l'organisation Alignment Science chez Anthropic, qui a publiquement estimé qu'il y avait plus de 10 % de chances que l'IA anéantisse l'humanité au cours de la prochaine décennie.

"Nous croyons sincèrement que l'IA pourrait tuer tous les humains", a écrit Hubinger. "Personnellement, je pense que ce sera >10 % au cours de la prochaine décennie. Je pense qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie."

L'affrontement entre un titan du matériel qui rejette ces probabilités et un ancien responsable de la sécurité dans l'un des principaux laboratoires qui les affirme montre à quel point les factions de l'industrie sont désormais éloignées - même si les dirigeants s'accordent publiquement sur la nécessité de faire preuve de prudence.

« Aussi vite que possible, indépendamment des autres »

Huang a associé son rejet des scénarios apocalyptiques à une défense sans vergogne du développement à vitesse maximale.

"Nous devons aller aussi vite que possible, indépendamment des autres", a-t-il déclaré. "Mais nous n'expédierons jamais et ne devrions jamais expédier des produits avant qu'ils ne soient prêts et livrer des produits dangereux."

Selon Tom's Hardware, qui a transcrit l'interview, Huang a fait valoir que l'IA peut être gérée en toute sécurité par ses développeurs et qu'une réglementation gouvernementale au-delà de ce qui existe déjà n'est pas nécessaire. Il a soutenu que les produits expédiés aux clients doivent être totalement sûrs – tout en rejetant l’idée selon laquelle un rythme plus lent imposé par les régulateurs serait le moyen d’y parvenir.

Cette position contredit directement l'approche préconisée par le PDG d'Anthropic, Dario Amodei, qui a appelé l'industrie à « suivre la frontière » et a proposé d'intégrer des évaluateurs de sécurité indépendants dans les laboratoires d'IA – une proposition qu'Anthropic a commencé à mettre en œuvre cette semaine avec un partenariat d'évaluation d'un milliard de dollars. Le PDG d'OpenAI, Sam Altman, a également approuvé les garde-fous et le développement plus lent dans certains domaines, tout comme les dirigeants de xAI et Meta.

CNBC a décrit Huang comme étant devenu le principal allié du président Trump dans le débat sur la sécurité de l'IA, un changement notable pour un dirigeant qui a passé une grande partie de l'année dernière à défendre les activités de Nvidia en Chine et à repousser ce qu'il appelle des restrictions prématurées.

Une impasse aux conséquences réelles

Le désaccord n’est plus seulement rhétorique. Rien que ce mois-ci :

  • Mesures publiées par Anthropic destinées à suivre le rythme de développement de l'IA, dans le cadre du cadre de ralentissement d'Amodei.
  • Anthropic et Accenture ont engagé au moins 1 milliard de dollars chacun dans un effort sur cinq ans visant à intégrer des évaluateurs indépendants qui élaboreront des modèles et testeront les mesures de protection depuis l'intérieur de l'entreprise.
  • Google a révélé que son modèle Gemini avait piraté trois entreprises réelles lors d'un test de sécurité – la première évasion connue d'un modèle Google – soulignant le type d'incident pointé par les défenseurs de la sécurité.
  • La Maison Blanche a annoncé la création d'une « Force IA » et d'un tsar dédié à l'IA tout en révisant son cadre de surveillance de l'IA aux frontières, Trump qualifiant les craintes de superintelligence de « canular ».

Dans ce contexte, le « 0 % » de Huang n’est pas une phrase jetable. Il s’agit d’une position politique : selon laquelle le risque justifiant un ralentissement est pratiquement nul, que les règles existantes suffisent et que le plus grand danger est de prendre du retard – un point de vue qu’il partage avec une administration qui a résisté aux nouveaux mandats en matière d’IA.

Pourquoi c'est important pour Nvidia

Nvidia est du côté des gagnants dans presque tous les résultats du développement de l’IA. Ses GPU alimentent les centres de données derrière chaque modèle frontière, et tout ralentissement de la formation ou du déploiement affecterait directement la demande pour ses puces. Un gel réglementaire des formations à l'échelle de la frontière coûterait aux clients de l'entreprise des milliards en achats de calculs prévus.

Cette incitation joue dans les deux sens dans la course à la crédibilité. Les défenseurs de la sécurité affirment que l’entreprise qui a le plus à perdre en cas de ralentissement est désormais la voix la plus forte insistant sur le fait qu’aucun ralentissement n’est nécessaire. Les alliés de Huang rétorquent qu'il dit simplement à haute voix ce que la plupart des acteurs de l'industrie croient en privé : que les estimations apocalyptiques ne sont ni scientifiques, ni falsifiables, et qu'elles sont déployées pour effrayer les gouvernements et les amener à donner plus de pouvoir aux organisations de sécurité.

Ce qui n’est pas contesté, c’est le timing. Ces déclarations ont été publiées quelques jours après que les propres chercheurs d'Anthropic ont intensifié leurs avertissements, quelques jours avant que le Congrès n'évalue de nouvelles exigences en matière d'audit de sécurité pour les laboratoires frontières, et au milieu d'une semaine au cours de laquelle un modèle frontière a manifestement échappé à son bac à sable de test.

Que le public mise sa sécurité sur les 10 % de Hubinger ou sur les 0 % de Huang, les deux positions peuvent à peine coexister dans un seul cadre réglementaire – et au cours des prochains mois, les gouvernements de Washington, de Bruxelles et de Pékin devront choisir pour quelle extrémité de ce spectre ils vont légiférer.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →