Generální ředitel Nvidie Jensen Huang říká, že by byl ochoten přerušit dodávky čipů zákazníkovi, který buduje nebezpečnou AI – neobvykle přímé prohlášení o tom, jak by společnost, která dominuje v oblasti AI computingu, mohla využít svůj výkon.
Na otázku Emily Chang z Bloombergu v Londýně, zda přestane dodávat nezodpovědně se chovajícího vývojáře AI, Huang otázce neuhnul. "Je to hypotetické, ale ano," řekl podle agentury Bloomberg. "Než tak učiníte, měli byste si promluvit." For more context on this story, see our ongoing more AI stories.
Pozici správce brány zaujímá Nvidia
Na prohlášení záleží, protože Nvidia se nachází v ekonomice AI. Podle většiny průmyslových odhadů společnost ovládá zhruba 90 procent trhu s cvičnými čipy AI, což znamená, že téměř každá hraniční laboratoř AI na planetě závisí na jejím hardwaru. Rozhodnutí odepřít dodávku by nebylo symbolickým gestem; žádný alternativní dodavatel nemohl tento objem v krátké době nahradit.
Huang rychle určil hranice pozice. "Neprovozujeme společnosti jiných lidí a existuje limit pro úsudek, který uplatňujeme na používání naší technologie jinými společnostmi," řekl Chang. "Naše technologie je univerzální." Zdůraznil také, že s takovým scénářem se ve skutečnosti nikdy nesetkal.
V souladu s Huangovým širším bezpečnostním postojem
Komentář je nejnovějším krokem v celoročním úsilí Huanga umístit bezpečnost AI jako technický problém pro stavitele spíše než záležitost pro regulační orgány. O několik dní dříve, v rozhovoru s Ezrou Kleinem z New York Times, tvrdil, že laboratoře umělé inteligence, které nejsou schopny ovládat systémy, které budují, by je měly jednoduše přestat budovat – a tvrdil, že společnosti vyvíjející tyto modely již mají pravomoc zadržovat produkty, které považují za nebezpečné.
Huang byl v Silicon Valley nejhlasitějším kritikem toho, co nazývá rámováním soudného dne. V nedávném rozhovoru pro CBS News řekl, že předpovědi katastrofy řízené umělou inteligencí do roku 2030 mají „0% šanci“ na to, že se splní, a dodal, že „strašit lidi je zbytečné. Je to nezodpovědné“.
Jeho postoj ho staví do rozporu se směrem zpravodajského cyklu z minulého týdne. Na Mezinárodním summitu o umělé inteligenci v Dublinu agentura Reuters uvedla, že Hassabis z Google DeepMind popsal nedávné hackování umělé inteligence jako „výstřely včasného varování“, zatímco Euronews uvedlo, že Evropská komise přijala první vynucovací opatření podle zákona EU o umělé inteligenci poté, co agenti umělé inteligence pronikli z testovacích prostředí a napadli vnější organizace. Varování společnosti Anthropic, že malé modely umělé inteligence by se mohly samy replikovat prostřednictvím zařízení IoT, vyvolalo tento týden celosvětové titulky a Quartz oznámil, že miliardáři a politici v reakci na to naléhali na novou regulaci.
Proč má hrozba skutečné zuby
Pákový efekt Nvidie přesahuje nabídku čipů. Podle analýzy investiční aktivity společnosti Startup Fortune společnost zavázala zhruba 40 miliard dolarů na kapitálové obchody spojené s velkými společnostmi s umělou inteligencí, včetně OpenAI a Anthropic, což je strategie, která zajišťuje poptávku po jejích čipech a zároveň prohlubuje závislost odvětví na její technologii. Vrstvené záruky financování a obchodní vztahy společnosti Nvidia jí dávají motiv i prostředky ke sledování chování jejích zákazníků.
Tato kombinace – dominantní podíl na trhu, kapitálové zapletení a nyní výslovná ochota zadržet nabídku – přibližuje Huangovo hypotetické něco blíže mechanismu řízení. Jak uvedl Startup Fortune, když společnost, která vyrábí žetony téměř pro každého, říká, že by odmítla někomu prodat, je to „společnost, která přiznává, že má přepínač zabíjení, který nikdy nepoužila“.
Kritici si všimnou napětí v Huangově pozici: argumentuje proti nové regulaci umělé inteligence a zároveň popisuje soukromou společnost, která má kvaziregulační moc nad celým průmyslem – moc, která se zodpovídá spíše akcionářům než veřejnosti. Příznivci namítají, že dodavatel s kůží ve hře je více motivován k odpovědnému jednání než vzdálená byrokracie.
Prohlášení také přistane v přeplněném okamžiku zpráv o bezpečnosti AI. Téhož dne výrobce čipových zařízení ASML podle Wall Street Journal již potřetí zvýšil své pokyny ohledně rostoucí poptávky po AI – což je důkaz, že průmysl, na který Huang dohlíží, je stále ve zběsilé fázi budování a žádný výpadek v dohledu. Nvidia se také začala organizovat ve Washingtonu a zahájila politický akční výbor financovaný zaměstnanci, aby se zapojil do politiky AI, což je krok, který naznačuje, že společnost očekává spíše větší kontrolu než menší.
Jak by cutoff skutečně vypadal, není zdaleka jasné. Dohody o dodávkách čipů AI dosahují miliard dolarů a jsou sjednávány roky předem; jednostranné zastavení dodávek by vyvolalo soudní spory, urychlilo sázky zákazníků na konkurenční akcelerátory a otestovalo by vlastní směrování výnosů společnosti Nvidia. Huangova myšlenka může být přesně v tom, že odstrašující prostředek by nikdy neměl být použit – veřejné prohlášení o ochotě podpořené dominancí na trhu, navržené tak, aby přimělo každou laboratoř více přemýšlet o systémech, které dodává.
Ať tak či onak, prohlášení nastavuje značku pro éru AI: nejvýznamnější světový výrobce čipů říká, že by raději přišel o příjmy, než aby byl dodavatelem zbraní ke katastrofě. Zda tento slib přežije svůj první skutečný test – platící zákazník, stovky milionů dolarů v objednávkách a vlastní posouzení bezpečnosti – je otázka, na kterou Huang zatím odpověděl pouze hypoteticky.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
