Generální ředitel společnosti Nvidia Jensen Huang říká, že existuje „0% šance“, že umělá inteligence zničí svět do roku 2030, a otevřeně odmítá varování před vyhynutím pocházející od bezpečnostních výzkumníků v konkurenčních laboratořích AI.
V rozhovoru pro CBS News, který ve čtvrtek citovala agentura Bloomberg, Huang odmítl předpovědi katastrofy způsobené umělou inteligencí jako šíření strachu s postranními motivy a tvrdil, že není potřeba žádná nová vládní regulace nad rámec již platných pravidel.
Tyto poznámky staví generálního ředitele společnosti Nvidia přímo na opačnou stranu nejohroženějšího argumentu v oboru – a prohlubují veřejnou roztržku mezi společnostmi prodávajícími výpočetní techniku AI a laboratořemi vytvářejícími hraniční modely. Pro čtenáře, kteří sledují spor, naše zpravodajství o AI během posledních dvou týdnů pozorně sledovalo bezpečnostní situaci.
'Existuje 0% šance'
"Naprosto nesouhlasím s tím, že AI zničí svět do roku 2030," řekl Huang v rozhovoru. "Věřím, že tvrzení o konci světa, rozdmýchávání strachu napříč Amerikou a to, že to dělají lidé, kteří to dělají, mi nedávají smysl. Takže to musí dělat z postranních důvodů. Možná je to politické, možná je to jinak, možná je to jen poutání pozornosti [...] Jakkoli je to charakterizováno, rok 2030 nebude koncem světa. Je 0% šance, že nastane konec světa."
Huangovy komentáře byly namířeny, alespoň částečně, na Evana Hubingera, bývalého vedoucího organizace Alignment Science v Anthropic, který veřejně odhadl, že existuje více než 10% šance, že AI vyhladí lidstvo během příští dekády.
„Opravdu vážně věříme, že umělá inteligence dokáže zabít všechny lidi,“ napsal Hubinger. "Osobně si myslím, že to bude > 10 % během příští dekády. Věřím, že Anthropic se snaží ze všech sil, ale zatím nemáme plán, jak vyřešit sladění superinteligence a nejsme na dobré cestě."
Střet mezi hardwarovým titánem, který tyto šance odmítá, a bývalým bezpečnostním vedoucím v jedné z předních laboratoří, který je prosazuje, zachycuje, jak daleko od sebe jsou nyní frakce v tomto odvětví – i když se manažeři veřejně shodují na nutnosti opatrnosti.
„Tak rychle, jak můžeme, bez ohledu na kohokoli jiného“
Huang spojil své odmítnutí scénářů soudného dne s neomluvenou obhajobou maximální rychlosti vývoje.
"Měli bychom jet tak rychle, jak jen můžeme, bez ohledu na kohokoli jiného," řekl. "Ale nikdy bychom a nikdy bychom neměli odesílat produkty dříve, než jsou připraveny, a dodávat produkty, které nejsou bezpečné."
Podle Tom's Hardware, který rozhovor přepsal, Huang tvrdil, že AI mohou její vývojáři bezpečně spravovat a že vládní regulace nad rámec toho, co již existuje, je zbytečná. Tvrdil, že produkty zasílané zákazníkům musí být zcela bezpečné – a zároveň odmítl myšlenku, že pomalejší tempo vynucované regulačními orgány je způsob, jak toho dosáhnout.
Tento postoj je v přímém rozporu s přístupem, na který naléhal generální ředitel společnosti Anthropic Dario Amodei, který vyzval průmysl, aby „pokročil na hranici“ a navrhl začlenění nezávislých hodnotitelů bezpečnosti do laboratoří AI – návrh, který společnost Anthropic začala tento týden implementovat v rámci partnerství pro hodnocení v hodnotě miliardy dolarů. Generální ředitel OpenAI Sam Altman také podpořil mantinely a pomalejší vývoj v některých oblastech, stejně jako vedoucí pracovníci v xAI a Meta.
CNBC charakterizovala Huanga jako hlavního spojence prezidenta Trumpa v debatě o bezpečnosti umělé inteligence, což je pozoruhodný posun pro manažera, který strávil velkou část minulého roku obranou čínského podnikání Nvidie a potlačováním toho, co nazývá předčasnými omezeními.
Odstup se skutečnými důsledky
Nesouhlas už není jen rétorický. Jen tento měsíc:
- Antropická zveřejněná měření určená ke sledování tempa vývoje umělé inteligence, která je součástí zpomalovacího rámce Amodei.
- Společnosti Anthropic a Accenture se zavázaly každý nejméně 1 miliardu USD na pětileté úsilí o začlenění nezávislých hodnotitelů, kteří budou sestavovat modely a testovat ochranná opatření zevnitř společnosti.
- Bílý dům oznámil "AI Force" a oddaného cara AI při revizi svého rámce pro hraniční dohled nad AI, přičemž Trump odmítl obavy ze superinteligence jako "podvod."
V tomto kontextu není Huangovo „0 %“ zahození. Je to postoj politiky: že riziko ospravedlňující zpomalení je v podstatě nulové, že stávající pravidla postačují a že větší nebezpečí zaostává – názor sdílí s administrativou, která se bránila novým mandátům AI.
Proč je to pro Nvidii důležité
Nvidia stojí na vítězné straně téměř každého výsledku v sestavování AI. Jeho GPU pohánějí datová centra za každým hraničním modelem a jakékoli zpomalení tréninku nebo nasazení by přímo zasáhlo poptávku po jeho čipech. Regulační zmrazení školení na hranicích by stálo zákazníky společnosti miliardy v plánovaných nákupech výpočetní techniky.
Tato pobídka omezuje v soutěži důvěryhodnosti oba způsoby. Zastánci bezpečnosti tvrdí, že společnost, která zpomalením nejvíce ztratí, je nyní nejhlasitějším hlasem, který trvá na tom, že žádné zpomalení není potřeba. Huangovi spojenci namítají, že prostě říká nahlas to, čemu většina průmyslu soukromě věří – že odhady soudného dne jsou nevědecké, nefalšovatelné a jsou nasazeny, aby vystrašily vlády, aby bezpečnostním organizacím předaly větší moc.
Co není sporné, je načasování. Prohlášení přistála několik dní poté, co vlastní výzkumníci společnosti Anthropic eskalovali svá varování, dny předtím, než Kongres zváží nové požadavky na bezpečnostní audit pro hraniční laboratoře, a uprostřed týdne, kdy jeden hraniční model prokazatelně unikl ze svého testovacího sandboxu.
Ať už veřejnost vsadí svou bezpečnost na Hubingerových 10% nebo Huangových 0%, tyto dvě pozice sotva mohou koexistovat v jednom regulačním rámci – a během několika příštích měsíců si vlády ve Washingtonu, Bruselu a Pekingu budou muset vybrat, pro který konec tohoto spektra budou zákony vydávat.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
