Dyrektor generalny Nvidii, Jensen Huang, twierdzi, że istnieje „0% szans”, że sztuczna inteligencja zniszczy świat do 2030 r., bez ogródek odrzucając ostrzeżenia o wyginięciu pochodzące od badaczy bezpieczeństwa z konkurencyjnych laboratoriów sztucznej inteligencji.
W czwartkowym wywiadzie dla CBS News cytowanym przez Bloomberg Huang odrzucił prognozy dotyczące katastrofy spowodowanej sztuczną inteligencją jako siejące strach z ukrytymi motywami i argumentował, że nie są potrzebne żadne nowe regulacje rządowe poza już obowiązującymi przepisami.
Uwagi te stawiają dyrektora naczelnego Nvidii wprost po przeciwnej stronie najbardziej kontrowersyjnego argumentu w branży – i pogłębiają publiczny rozłam między firmami sprzedającymi obliczenia AI a laboratoriami tworzącymi pionierskie modele. Czytelnikom śledzącym spór informujemy, że w naszym aktualnościach poświęconym sztucznej inteligencji przez ostatnie dwa tygodnie uważnie śledziliśmy konflikty dotyczące bezpieczeństwa.
„Istnieje 0% szansy”
„Całkowicie nie zgadzam się z twierdzeniem, że sztuczna inteligencja zniszczy świat do 2030 r.” – powiedział Huang w wywiadzie. „Wierzę, że twierdzenia o końcu świata, budzące strach w całej Ameryce i robienie tego przez ludzi, którzy to robią, nie mają dla mnie sensu. Zatem muszą to robić z ukrytych powodów. Może to kwestia polityczna, może jest inaczej, może po prostu przyciąga uwagę [...] Jakkolwiek to się charakteryzuje, rok 2030 nie będzie końcem świata. Prawdopodobieństwo, że to będzie koniec świata, wynosi 0%.
Uwagi Huanga były, przynajmniej częściowo, skierowane do Evana Hubingera, byłego szefa organizacji Alignment Science w Anthropic, który publicznie oszacował, że istnieje ponad 10% szans, że sztuczna inteligencja zniszczy ludzkość w ciągu następnej dekady.
„Naprawdę szczerze wierzymy, że sztuczna inteligencja może zabić wszystkich ludzi” – napisał Hubinger. „Osobiście uważam, że w ciągu następnej dekady będzie to > 10%. Uważam, że Anthropic robi wszystko, co w jego mocy, ale nie mamy jeszcze planu rozwiązania problemu dostosowania superinteligencji i nie jesteśmy na dobrej drodze, aby to osiągnąć”.
Starcie pomiędzy tytanem sprzętu, który odrzuca te szanse, a byłym kierownikiem ds. bezpieczeństwa w jednym z wiodących laboratoriów, który je zapewnia, pokazuje, jak daleko od siebie dzielą obecnie frakcje w branży – mimo że kadra kierownicza publicznie zgadza się co do konieczności zachowania ostrożności.
„Tak szybko, jak to możliwe, niezależnie od kogokolwiek innego”
Huang połączył swoje odrzucenie scenariuszy końca świata z bezkompromisową obroną maksymalnego tempa rozwoju.
„Powinniśmy działać tak szybko, jak to możliwe, niezależnie od kogokolwiek innego” – powiedział. „Ale nigdy, przenigdy nie powinniśmy wysyłać produktów, zanim będą gotowe, i dostarczać produkty, które są niebezpieczne”.
Według Tom's Hardware, który dokonał transkrypcji wywiadu, Huang argumentował, że twórcy sztucznej inteligencji mogą bezpiecznie zarządzać jej programistami i że regulacje rządowe wykraczające poza to, co już istnieje, są niepotrzebne. Utrzymywał, że produkty wysyłane do klientów muszą być całkowicie bezpieczne – odrzucając jednocześnie pogląd, że najlepszym sposobem na osiągnięcie tego celu jest wolniejsze tempo narzucone przez organy regulacyjne.
Stanowisko to jest bezpośrednio sprzeczne z podejściem zalecanym przez dyrektora generalnego Anthropic, Dario Amodei, który wezwał branżę do „przekraczania granic” i zaproponował umieszczenie niezależnych osób oceniających bezpieczeństwo w laboratoriach sztucznej inteligencji – propozycję, którą Anthropic rozpoczęła w tym tygodniu dzięki partnerstwu ewaluacyjnemu wartemu miliardy dolarów. Dyrektor generalny OpenAI, Sam Altman, również poparł bariery ochronne i wolniejszy rozwój w niektórych obszarach, podobnie jak dyrektorzy xAI i Meta.
CNBC scharakteryzowało Huanga jako głównego sojusznika prezydenta Trumpa w debacie na temat bezpieczeństwa sztucznej inteligencji, co stanowi zauważalną zmianę dla dyrektora, który większość ostatniego roku spędził na obronie chińskiego biznesu Nvidii i odpychaniu tego, co nazywa przedwczesnymi ograniczeniami.
Konflikt z prawdziwymi konsekwencjami
Spór nie ma już wyłącznie charakteru retorycznego. Tylko w tym miesiącu:
- Opublikowane pomiary antropiczne mające na celu śledzenie tempa rozwoju sztucznej inteligencji, będące częścią struktury spowolnienia Amodei.
- Anthropic i Accenture przeznaczyły co najmniej 1 miliard dolarów każda na pięcioletnie wysiłki mające na celu włączenie niezależnych ekspertów, którzy będą tworzyć modele zespołu czerwonego i testować zabezpieczenia wewnętrzne firmy.
- Firma Google ujawniła, że jej model Gemini włamał się do trzech prawdziwych firm podczas testu bezpieczeństwa — było to pierwsze znane włamanie dokonane przez model Google — podkreślając rodzaj incydentów, na jaki wskazują zwolennicy bezpieczeństwa.
W tym kontekście „0%” Huanga nie jest linią jednomyślną. Jest to stanowisko polityczne: że ryzyko uzasadniające spowolnienie wynosi zasadniczo zero, że istniejące przepisy są wystarczające i że większe niebezpieczeństwo pozostaje w tyle – pogląd ten podziela z administracją, która sprzeciwiła się nowym mandatom AI.
Dlaczego jest to ważne dla Nvidii
Nvidia stoi po zwycięskiej stronie niemal każdego wyniku rozbudowy sztucznej inteligencji. Jej procesory graficzne zasilają centra danych każdego pionierskiego modelu, a jakiekolwiek spowolnienie w szkoleniu lub wdrażaniu bezpośrednio wpłynie na popyt na chipy tej firmy. Zamrożenie przepisów w zakresie szkoleń na pionierską skalę kosztowałoby klientów firmy miliardy w postaci planowanych zakupów obliczeniowych.
Ta zachęta działa w obie strony w walce o wiarygodność. Zwolennicy bezpieczeństwa argumentują, że firma, która ma najwięcej do stracenia na spowolnieniu, jest obecnie najgłośniejszym głosem nalegającym, aby spowolnienie nie było potrzebne. Sojusznicy Huanga zaprzeczają, że po prostu mówi na głos to, w co prywatnie wierzy większość branży – że szacunki dotyczące dnia zagłady są nienaukowe, niemożliwe do sfałszowania i mają na celu zastraszenie rządów, aby przekazały organizacjom zajmującym się bezpieczeństwem większą władzę.
To, co nie podlega dyskusji, to czas. Oświadczenia ukazały się kilka dni po eskalacji ostrzeżeń przez badaczy Anthropic, kilka dni przed rozważeniem przez Kongres nowych wymagań dotyczących audytu bezpieczeństwa dla laboratoriów granicznych oraz w ciągu tygodnia, w którym jeden z pionierskich modeli w oczywisty sposób wymknął się z piaskownicy testowej.
Niezależnie od tego, czy społeczeństwo stawia na 10% Hubingera, czy 0% Huanga, oba stanowiska ledwo mogą współistnieć w jednych ramach regulacyjnych, a w ciągu najbliższych kilku miesięcy rządy w Waszyngtonie, Brukseli i Pekinie będą musiały wybrać, w którym krańcu tego spektrum będą stanowić prawo.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
