Nvidias vd Jensen Huang säger att han skulle vara villig att stänga av chiptillförseln till en kund som bygger osäker AI - ett ovanligt direkt uttalande om hur företaget som dominerar AI-datorer kan använda sin kraft.
På frågan av Bloombergs Emily Chang i London om han skulle sluta tillhandahålla en AI-utvecklare som agerar oansvarigt, undvek Huang inte frågan. "Det är hypotetiskt, men ja", sa han enligt Bloomberg. "Innan du gör det, skulle du ha en konversation." For more context on this story, see our ongoing AI industry coverage.
Grindvaktspositionen som Nvidia upptar
Uttalandet är viktigt på grund av var Nvidia sitter i AI-ekonomin. Enligt de flesta branschuppskattningar kontrollerar företaget ungefär 90 procent av marknaden för AI-träningschips, vilket betyder att nästan alla gränsöverskridande AI-labb på planeten beror på dess hårdvara. Ett beslut att hålla inne leverans skulle inte vara en symbolisk gest; ingen alternativ leverantör kunde ersätta den volymen med kort varsel.
Huang var snabb med att rama in gränserna för positionen. "Vi driver inte andras företag, och det finns en gräns för den bedömning vi tillämpar på andra företags användning av vår teknik", sa han till Chang. "Vår teknik är generellt." Han betonade också att han faktiskt aldrig har ställts inför ett sådant scenario.
Överensstämmer med Huangs bredare säkerhetsinställning
Kommentaren är det senaste draget i en årslång ansträngning av Huang för att positionera AI-säkerhet som ett tekniskt problem för byggare snarare än en fråga för tillsynsmyndigheter. Dagar tidigare, i en intervju med New York Times Ezra Klein, hävdade han att AI-laboratorier som inte kan kontrollera systemen de bygger helt enkelt borde sluta bygga dem – och hävdade att företagen som utvecklar dessa modeller redan har makten att undanhålla produkter som de anser vara osäkra.
Huang har varit Silicon Valleys mest högljudda kritiker av vad han kallar domedagsinramning. I en nyligen genomförd intervju med CBS News sa han att förutsägelser om AI-driven katastrof till 2030 har en "0% chans" att gå i uppfyllelse, och tillade att "att skrämma människor är onödigt. Det är oansvarigt."
Hans hållning sätter honom i strid med riktningen för den senaste veckans nyhetscykel. Vid det internationella AI-toppmötet i Dublin rapporterade Reuters att Google DeepMinds Hassabis beskrev senaste AI-hack som "tidiga varningsskott", medan Euronews rapporterade att EU-kommissionen har vidtagit sina första verkställande åtgärder enligt EU:s AI-lag efter att AI-agenter bröt sig ut ur testmiljöer och hackade externa organisationer. Anthropics varning om att små AI-modeller kan replikera sig själv genom IoT-enheter drog globala rubriker denna vecka, och Quartz rapporterade att miljardärer och politiska personer uppmanade till ny reglering som svar.
Varför hotet har riktiga tänder
Nvidias hävstångseffekt sträcker sig längre än chiptillförsel. Företaget har åtagit sig ungefär 40 miljarder dollar till aktieaffärer knutna till stora AI-företag, inklusive OpenAI och Anthropic, enligt en Startup Fortune-analys av dess investeringsaktivitet – en strategi som säkrar efterfrågan på dess chips samtidigt som branschens beroende av sin teknologi fördjupas. Lager finansieringsgarantier på toppen, och Nvidias kommersiella relationer ger det både motiv och medel att övervaka hur kunderna beter sig.
Den kombinationen – dominerande marknadsandel, kapitalintrassling och nu en uttrycklig vilja att hålla tillbaka utbudet – gör Huangs hypotetiska till något närmare en styrningsmekanism. Som Startup Fortune uttryckte det, när företaget som tillverkar nästan allas marker säger att det skulle vägra sälja till någon, är det "ett företag som erkänner att det har en kill switch som det aldrig har använt."
Kritiker kommer att notera spänningen i Huangs position: han argumenterar mot ny AI-reglering samtidigt som han beskriver ett privat företag som utövar kvasireglerande makt över hela branschen – makt som är ansvarig inför aktieägare snarare än allmänheten. Supportrar motarbetar att en leverantör med hud i spelet är mer motiverad att agera ansvarsfullt än en avlägsen byråkrati.
Uttalandet landar också i ett trångt ögonblick för AI-säkerhetsnyheter. Samma dag höjde chiputrustningstillverkaren ASML sin vägledning för tredje gången om ökande efterfrågan på AI, enligt Wall Street Journal – bevis på att industrin som Huang övervakar fortfarande befinner sig i en rasande uppbyggnadsfas utan någon avfart i sikte. Nvidia har också börjat organisera sig i Washington och lanserat en medarbetarfinansierad politisk handlingskommitté för att engagera sig i AI-policy, ett steg som antyder att företaget förväntar sig mer granskning snarare än mindre.
Hur en cutoff faktiskt skulle se ut är långt ifrån klart. Leveransavtal för AI-chips uppgår till miljarder dollar och förhandlas år i förväg; Att ensidigt stoppa leveranser skulle inbjuda till rättstvister, påskynda kundernas satsningar på rivaliserande acceleratorer och testa Nvidias egen intäktsvägledning. Huangs poäng kan vara just att det avskräckande medlet aldrig ska behöva användas - ett offentligt uttalande om villighet, uppbackat av marknadsdominans, utformat för att få varje labb att tänka hårdare över de system som det skickar.
Hur som helst sätter uttalandet en markör för AI-eran: världens viktigaste chiptillverkare säger att den hellre skulle förlora intäkter än att vara vapenleverantör till en katastrof. Huruvida det löftet skulle överleva sitt första riktiga test - en betalande kund, hundratals miljoner dollar i beställningar och en säkerhetsbedömning som gjorts internt - är en fråga som Huang för närvarande bara har svarat på i hypotetisk.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
