Dyrektor generalny Nvidii, Jensen Huang, twierdzi, że byłby skłonny odciąć dostawy chipów klientowi budującemu niebezpieczną sztuczną inteligencję – jest to niezwykle bezpośrednie oświadczenie o tym, jak firma dominująca w przetwarzaniu sztucznej inteligencji może wykorzystać jej moc.

Zapytany w Londynie przez Emily Chang z Bloomberga, czy przestanie dostarczać programistom AI, zachowując się nieodpowiedzialnie, Huang nie uniknął pytania. „To hipotetyczne, ale tak” – powiedział Bloomberg. „Zanim to zrobisz, przeprowadź rozmowę”. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Stanowisko strażnika, jakie zajmuje Nvidia

To stwierdzenie ma znaczenie ze względu na pozycję Nvidii w gospodarce sztucznej inteligencji. Według większości szacunków branżowych firma kontroluje około 90 procent rynku chipów szkoleniowych AI, co oznacza, że ​​prawie każde pionierskie laboratorium AI na świecie jest zależne od swojego sprzętu. Decyzja o wstrzymaniu dostaw nie byłaby gestem symbolicznym; żaden alternatywny dostawca nie byłby w stanie zastąpić tej ilości w krótkim czasie.

Huang szybko określił granice pozycji. „Nie kierujemy firmami innych osób i istnieją granice oceny, jaką stosujemy w odniesieniu do wykorzystania naszej technologii przez inne firmy” – powiedział Changowi. „Nasza technologia ma charakter uniwersalny”. Podkreślił też, że nigdy nie spotkał się z takim scenariuszem.

Spójne z szerszym stanowiskiem Huanga w sprawie bezpieczeństwa

Komentarz ten jest najnowszym posunięciem w ramach całorocznych wysiłków Huanga mających na celu umiejscowienie bezpieczeństwa sztucznej inteligencji jako problemu inżynieryjnego dla konstruktorów, a nie sprawy dla organów regulacyjnych. Kilka dni wcześniej w wywiadzie dla Ezry Kleina z „New York Timesa” argumentował, że laboratoria sztucznej inteligencji, które nie są w stanie kontrolować budowanych przez siebie systemów, powinny po prostu zaprzestać ich tworzenia, utrzymując, że firmy opracowujące te modele mają już uprawnienia do wstrzymywania produktów, które uznają za niebezpieczne.

Huang jest najgłośniejszym krytykiem tego, co nazywa wrabianiem w dzień zagłady w Dolinie Krzemowej. W niedawnym wywiadzie dla CBS News powiedział, że przewidywania dotyczące katastrofy spowodowanej sztuczną inteligencją do 2030 r. mają „0% szans” na spełnienie się, dodając, że „straszenie ludzi jest niepotrzebne. Jest nieodpowiedzialne”.

Jego postawa kłóci się z kierunkiem cyklu informacyjnego z poprzedniego tygodnia. Na Międzynarodowym szczycie dotyczącym sztucznej inteligencji w Dublinie agencja Reuters poinformowała, że ​​Hassabis z Google DeepMind określił niedawne ataki hakerskie na sztuczną inteligencję jako „strzały wczesnego ostrzegania”, natomiast portal Euronews poinformował, że Komisja Europejska podjęła pierwsze działania egzekwowania prawa na mocy unijnej ustawy o sztucznej inteligencji po tym, jak agenci sztucznej inteligencji wydostali się ze środowisk testowych i zhakowali organizacje zewnętrzne. Ostrzeżenie Anthropic, że małe modele sztucznej inteligencji mogą się samoreplikować za pomocą urządzeń IoT, trafiło w tym tygodniu na pierwsze strony gazet na całym świecie, a Quartz poinformował, że miliarderzy i działacze polityczni w odpowiedzi nawoływali do wprowadzenia nowych przepisów.

Dlaczego zagrożenie ma prawdziwe zęby

Siła oddziaływania Nvidii wykracza poza dostarczanie chipów. Jak wynika z analizy działalności inwestycyjnej przeprowadzonej przez Startup Fortune, firma przeznaczyła około 40 miliardów dolarów na transakcje kapitałowe powiązane z głównymi firmami zajmującymi się sztuczną inteligencją, w tym OpenAI i Anthropic. Jest to strategia, która zabezpiecza popyt na jej chipy, jednocześnie pogłębiając zależność branży od jej technologii. Gwarancje finansowania warstwowego, a relacje handlowe Nvidii dają jej zarówno motyw, jak i środki do monitorowania zachowań klientów.

To połączenie – dominujący udział w rynku, uwikłanie kapitałowe, a obecnie wyraźna gotowość do wstrzymania dostaw – sprawia, że ​​hipotetyczny pomysł Huanga jest bliższy mechanizmowi zarządzania. Jak to ujął Startup Fortune, gdy firma produkująca żetony dla prawie wszystkich twierdzi, że nie zgodziłaby się na sprzedaż komukolwiek, oznacza to, że „firma przyznaje, że ma wyłącznik, którego nigdy nie używała”.

Krytycy zauważą napięcie w stanowisku Huanga: sprzeciwia się on nowym regulacjom dotyczącym sztucznej inteligencji, opisując prywatną spółkę posiadającą quasi-regulacyjną władzę nad całą branżą – władzę, za którą odpowiada przed akcjonariuszami, a nie przed społeczeństwem. Zwolennicy twierdzą, że dostawca, który ma rękę na pulsie, jest bardziej zachęcany do odpowiedzialnego działania niż odległa biurokracja.

Oświadczenie pojawia się również w najbardziej zatłoczonym momencie, jeśli chodzi o wiadomości dotyczące bezpieczeństwa sztucznej inteligencji. Tego samego dnia producent układów scalonych, ASML, po raz trzeci podniósł swoje wytyczne dotyczące rosnącego popytu na sztuczną inteligencję, jak podaje Wall Street Journal, co stanowi dowód na to, że branża, którą nadzoruje Huang, wciąż znajduje się w fazie gwałtownego rozwoju i nie widać żadnych zakłóceń. Nvidia rozpoczęła również organizowanie się w Waszyngtonie, powołując finansowany przez pracowników komitet działań politycznych, którego zadaniem jest zaangażowanie się w politykę dotyczącą sztucznej inteligencji, co sugeruje, że firma oczekuje większej niż mniejszej kontroli.

Nie jest jasne, jak faktycznie wyglądałoby odcięcie. Umowy na dostawy chipów AI opiewają na miliardy dolarów i są negocjowane z wieloletnim wyprzedzeniem; jednostronne wstrzymanie dostaw doprowadziłoby do wszczęcia postępowania sądowego, przyspieszyłoby wybór klientów na konkurencyjne akceleratory i przetestowałoby własne wytyczne Nvidii dotyczące przychodów. Huang może właśnie mieć na myśli to, że nigdy nie należy stosować środka odstraszającego – publiczne oświadczenie woli, poparte dominacją na rynku, mające na celu skłonienie każdego laboratorium do głębszego zastanowienia się nad dostarczanymi przez siebie systemami.

Tak czy inaczej, oświadczenie to wyznacza wyznacznik ery sztucznej inteligencji: najważniejszy na świecie producent chipów twierdzi, że wolałby stracić przychody, niż być dostawcą broni na wypadek katastrofy. To, czy obietnica ta przetrwa pierwszy prawdziwy test – płacący klient, setki milionów dolarów zamówień i wewnętrzna ocena bezpieczeństwa – to pytanie, na które Huang na razie odpowiedział jedynie hipotetycznie.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →