Le PDG de Nvidia, Jensen Huang, a déclaré qu'il serait prêt à couper l'approvisionnement en puces d'un client développant une IA dangereuse – une déclaration inhabituellement directe sur la façon dont l'entreprise qui domine l'informatique IA pourrait utiliser sa puissance.
Interrogé par Emily Chang de Bloomberg à Londres pour savoir s'il cesserait de fournir un développeur d'IA agissant de manière irresponsable, Huang n'a pas esquivé la question. "C'est hypothétique, mais oui", a-t-il déclaré, selon Bloomberg. "Avant de le faire, vous auriez une conversation." Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
La position de gardien qu'occupe Nvidia
Cette déclaration est importante en raison de la place de Nvidia dans l’économie de l’IA. Selon la plupart des estimations du secteur, la société contrôle environ 90 % du marché des puces de formation en IA, ce qui signifie que presque tous les laboratoires d’IA de la planète dépendent de leur matériel. Une décision de suspendre l’approvisionnement ne serait pas un geste symbolique ; aucun autre fournisseur ne pouvait remplacer ce volume dans un court délai.
Huang n’a pas tardé à définir les limites de cette position. "Nous ne dirigeons pas les entreprises d'autres personnes, et il y a une limite au jugement que nous appliquons à l'utilisation de notre technologie par d'autres entreprises", a-t-il déclaré à Chang. "Notre technologie est polyvalente." Il a également souligné qu’il n’avait jamais été confronté à un tel scénario.
Conformément à la position plus large de Huang en matière de sécurité
Ce commentaire est la dernière initiative d'un effort d'un an de Huang pour positionner la sécurité de l'IA comme un problème d'ingénierie pour les constructeurs plutôt que comme une question pour les régulateurs. Quelques jours plus tôt, dans une interview avec Ezra Klein du New York Times, il avait soutenu que les laboratoires d'IA incapables de contrôler les systèmes qu'ils construisent devraient tout simplement arrêter de les construire – affirmant que les entreprises développant ces modèles détiennent déjà le pouvoir de refuser les produits qu'elles considèrent comme dangereux.
Huang a été le critique le plus virulent de la Silicon Valley à l’égard de ce qu’il appelle le cadrage apocalyptique. Dans une récente interview à CBS News, il a déclaré que les prédictions d'une catastrophe provoquée par l'IA d'ici 2030 avaient « 0 % de chance » de se réaliser, ajoutant que « faire peur aux gens n'est pas nécessaire. C'est irresponsable ».
Sa position le met en contradiction avec l'orientation du cycle d'information de la semaine dernière. Lors du Sommet international sur l'IA à Dublin, Reuters a rapporté que Hassabis de Google DeepMind avait décrit les récents piratages de l'IA comme des « coups d'avertissement précoces », tandis qu'Euronews a rapporté que la Commission européenne avait pris ses premières mesures d'application en vertu de la loi européenne sur l'IA après que des agents d'IA se sont échappés des environnements de test et ont piraté des organisations extérieures. L'avertissement d'Anthropic selon lequel les petits modèles d'IA pourraient s'auto-répliquer via des appareils IoT a fait la une des journaux mondiaux cette semaine, et Quartz a rapporté que des milliardaires et des personnalités politiques ont demandé une nouvelle réglementation en réponse.
Pourquoi la menace a du mordant
L'influence de Nvidia s'étend au-delà de la fourniture de puces. La société a engagé environ 40 milliards de dollars dans des transactions en actions liées à de grandes sociétés d'IA, notamment OpenAI et Anthropic, selon une analyse Startup Fortune de son activité d'investissement – une stratégie qui garantit la demande pour ses puces tout en renforçant la dépendance de l'industrie à l'égard de sa technologie. Ajoutez à cela des garanties de financement et les relations commerciales de Nvidia lui donnent à la fois la motivation et les moyens de surveiller le comportement de ses clients.
Cette combinaison – part de marché dominante, enchevêtrement du capital et désormais volonté explicite de suspendre l’offre – rend l’hypothèse de Huang plus proche d’un mécanisme de gouvernance. Comme le dit Startup Fortune, lorsque l’entreprise qui fabrique les puces de presque tout le monde déclare qu’elle refuserait de les vendre à quelqu’un, c’est « une entreprise admettant qu’elle dispose d’un coupe-circuit qu’elle n’a jamais utilisé ».
Les critiques noteront la tension dans la position de Huang : il s'oppose à une nouvelle réglementation de l'IA tout en décrivant une entreprise privée exerçant un pouvoir quasi réglementaire sur l'ensemble du secteur – un pouvoir qui est responsable devant les actionnaires plutôt que devant le public. Les partisans rétorquent qu’un fournisseur impliqué dans le jeu est plus incité à agir de manière responsable qu’une bureaucratie distante.
La déclaration arrive également à un moment chargé pour l’actualité sur la sécurité de l’IA. Le même jour, le fabricant d'équipements à puces ASML a relevé pour la troisième fois ses prévisions concernant la demande croissante d'IA, selon le Wall Street Journal – preuve que l'industrie supervisée par Huang est toujours dans une phase de développement furieux, sans aucune sortie en vue. Nvidia a également commencé à s'organiser à Washington, en lançant un comité d'action politique financé par les employés pour s'engager sur la politique en matière d'IA, une mesure qui suggère que l'entreprise s'attend à plus de contrôle plutôt qu'à moins.
Ce à quoi ressemblerait réellement un seuil est loin d’être clair. Les accords de fourniture de puces d’IA s’élèvent à des milliards de dollars et sont négociés des années à l’avance ; L'arrêt unilatéral des expéditions entraînerait des litiges, accélérerait les paris des clients sur les accélérateurs concurrents et mettrait à l'épreuve les propres prévisions de revenus de Nvidia. Le point de vue de Huang est peut-être précisément que la dissuasion ne devrait jamais être nécessaire – une déclaration publique de volonté, soutenue par la domination du marché, conçue pour inciter chaque laboratoire à réfléchir plus sérieusement aux systèmes qu'il propose.
Quoi qu’il en soit, cette déclaration marque un tournant dans l’ère de l’IA : le plus important fabricant de puces au monde déclare qu’il préfère perdre des revenus plutôt que d’être le fournisseur d’armes d’une catastrophe. La question de savoir si cette promesse survivrait à son premier véritable test – un client payant, des centaines de millions de dollars de commandes et un jugement de sécurité effectué en interne – est une question à laquelle Huang, pour l’instant, n’a répondu que de manière hypothétique.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
