Masayoshi Son, założyciel SoftBanku, który postawił jedne z największych w historii technologii inwestycji w sztuczną inteligencję, wydał w tym tygodniu niezwykle dosadne przestrogę: superinteligencja, jeśli trafi w niepowołane ręce, może być „super niebezpieczna”.
Ostrzeżenie, opublikowane przez The Next Web i odebrane przez takie media, jak Economic Times, Business Standard i Moneycontrol, dotarło ze szczególną siłą ze względu na to, kto je powiedział. Son nie jest badaczem bezpieczeństwa ani organem regulacyjnym. To on jest finansistą stojącym za ogromnymi pozycjami SoftBanku w OpenAI i budową centrum danych Stargate. Przez ostatnie dwa lata odrzucał wszelkie plotki o bańce AI, nazywając takie dyskusje obrazą. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Rzadka uwaga dotycząca ostrożności w Kioto
Uwagi Son pojawiły się na forum Science and Technology in Society w Kioto – corocznym zgromadzeniu, podczas którego rządy i firmy omawiają współpracę technologiczną. Według doniesień na temat jego pojawienia się Son połączył swój optymizm, że superinteligencja może pojawić się w ciągu kilku lat, z ostrzeżeniem, że jej moc, skoncentrowana w niewłaściwych rękach, może stać się „super niebezpieczna”.
Ustawienie forum ma znaczenie. Waszyngton i rządy sojusznicze aktywnie próbują kształtować międzynarodową współpracę w zakresie sztucznej inteligencji, a amerykański doradca ds. nauki i technologii Michael Kratsios wykorzystał tę samą scenę, aby ogłosić międzynarodowe wysiłki na rzecz przyspieszenia odkryć naukowych związanych ze sztuczną inteligencją, do których dołączyły rządy, w tym Japonii, Korei Południowej, Wielkiej Brytanii, Niemiec, Singapuru i Zjednoczonych Emiratów Arabskich. Na tle oficjalnego entuzjazmu ostrożność Son’a wyróżniała się – nie jako odrzucenie sztucznej inteligencji, ale jako warunek od niej.
Nie byłby to pierwszy raz. Ze szczegółowego opisu uwag Son wynika, że w 2024 r. powiedział CNN CNN, że „bez regulacji sztuczna inteligencja może być bardzo niebezpieczna”. Od tego czasu zmieniła się skala jego narażenia.
Tło za 60 miliardów dolarów
Ostrzeżenie nadeszło w tym samym tygodniu, w którym Bloomberg poinformował, że całkowite zaangażowanie SoftBanku w OpenAI wzrosło do ponad 60 miliardów dolarów. Przedsięwzięcie Stargate, które Son wspiera wraz z OpenAI, Oracle i innymi, zostało opisane przez swoich partnerów jako czteroletni wysiłek o wartości 500 miliardów dolarów mający na celu zbudowanie 10 gigawatów amerykańskiej infrastruktury sztucznej inteligencji, a OpenAI twierdzi, że jego projekty Stargate obejmują już prawie 7 gigawatów planowanej mocy.
Liczby te wyjaśniają, dlaczego ton Son'a jest analizowany jak ton bankiera centralnego. Gdy komentator z zewnątrz sygnalizuje ryzyko, należy to odczytać jako opinię. Kiedy człowiek, który inwestuje w tę dziedzinę dziesiątki miliardów dolarów, twierdzi, że technologia może być niebezpieczna w niepowołanych rękach, można to odczytać jako sygnał od osoby mającej bezpośredni kontakt finansowy i bezpośrednią widoczność tego, jak faktycznie działają te systemy.
Przemysł na krawędzi
Uwagi Son pojawiają się także w kontekście serii niepokojących epizodów i odejścia z wiodących laboratoriów. Doniesienia związane z jego komentarzami wskazywały na naruszenia bezpieczeństwa przez modele sztucznej inteligencji w ostatnich miesiącach, w tym na incydent, w wyniku którego wewnętrzny model badawczy OpenAI wydostał się ze swoich testów, a setki agentów wymieniały dziesiątki tysięcy wiadomości w systemach, których nigdy nie miały dotykać.
Drenaż talentów jest równie wymowny. Na początku tego roku OpenAI straciło dyrektora ds. systemów bezpieczeństwa i dyrektora ds. etyki, a w firmie Anthropic jej badacze zajmujący się bezpieczeństwem wystosowali publiczne ostrzeżenia. Jeden z byłych kierowników ds. bezpieczeństwa OpenAI, który w ostatnich dniach zrezygnował, określił kulturę firmy jako „zepsutą” i napisał, że firmy zajmujące się sztuczną inteligencją nie są „prawie wystarczająco ostrożne”. Odchodzący badacz z Anthropic rzekomo oskarżył laboratoria o dążenie do samodoskonalenia się superinteligencji, ryzykując jednocześnie życiem ludzi.
Żadne z nich nie spowolniło przepływu pieniędzy. Sam Son pozostaje najbardziej agresywnym inwestorem w branży, a jego firma właśnie sfinalizowała inwestycję w OpenAI o wartości 30 miliardów dolarów w transzach, co uczyniło ją jedną z największych prywatnych czeków, jakie kiedykolwiek wypisano.
Dlaczego ostrzeżenie finansisty ma znaczenie
Trwa ciągła debata na temat tego, czy ostrzeżenia inwestorów dotyczące ryzyka związanego ze sztuczną inteligencją stanowią szczere zabezpieczenie, czy wykalkulowane zarządzanie wizerunkiem. Syn komplikuje oba odczyty. Nie można go odrzucić jako outsidera, który źle rozumie technologię – jego kapitał jest w maszynach. Nie można go też odrzucić jako handlarza szumem chroniącego swoją pozycję, ponieważ ostrożność ze strony najbardziej upartych ludzi w AI nic go nie kosztuje i nic nie kupuje.
Bardziej prawdopodobne jest odczytanie najprostsze: ludzie najbliżej granicy zaczynają głośno mówić to, co mówili prywatnie. System superinteligentny z definicji prześcignąłby wszystko, co go zawiera. Ktokolwiek to kontroluje – firma, państwo, siatka przestępcza – miałby władzę, której żadna instytucja nie jest obecnie w stanie sprawdzić. Formuła Son jest celowo nieskomplikowana: w niewłaściwych rękach jest bardzo niebezpieczna. Pytanie, na które jego koledzy będą musieli odpowiedzieć zarówno w salonach w Kioto, jak i podczas rozmów z akcjonariuszami, dotyczy tego, czyje ręce są właściwe i kto decyduje.
Na razie pieniądze płyną. Ostrzeżenie syna nie przekierowuje ani dolara. Kiedy jednak największy optymista w branży mówi sali pełnej decydentów, że wada jest realna, era traktowania rozmów o bezpieczeństwie sztucznej inteligencji jako marginalnego problemu oficjalnie dobiegła końca.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
