Drugi badacz z zespołu ds. bezpieczeństwa AGI w Google DeepMind zrezygnował i publicznie ostrzegł, że zaawansowana sztuczna inteligencja może stanowić zagrożenie dla przetrwania człowieka, pogłębiając falę odejść motywowanych bezpieczeństwem z wiodących na świecie laboratoriów AI.
Bilal Chughtai, inżynier badawczy i matematyk z wykształcenia, który opuścił Google DeepMind w lipcu, opublikował w poniedziałek post wyjaśniający dlaczego. „Głęboko wierzę, że sztuczna inteligencja może nas wszystkich zabić i że może kończyć nam się czas, aby uniknąć takiego wyniku” – napisał Chughtai w komentarzach szeroko komentowanych przez AFP i inne media. Według Bloomberga dołączył do BlueDot Impact, organizacji non-profit, która szkoli ludzi z różnych dziedzin w zakresie pracy nad bezpieczeństwem sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Drugie wyjście z tego samego zespołu
Na kilka dni przed tym, jak post Chughtaia stał się wirusowy, jego kolega Josh Engels zrezygnował z pracy w tym samym zespole ds. bezpieczeństwa AGI. Engels, absolwent MIT, odrzucił oferty pracy zarówno od OpenAI, jak i Anthropic – dwóch firm, które najchętniej krytykowałby – i zamiast tego dołączył do METR, niezależnej organizacji non-profit, która przed wysyłką ocenia, czy pionierskie systemy sztucznej inteligencji są niebezpieczne.
Według Business Standard Engels powiedział reporterom, że widzi „przerażającą szansę”, że systemy sztucznej inteligencji wyrządzą „ogromne szkody” w ciągu najbliższych pięciu lat. W METR powiedział, że planuje prześledzić, skąd biorą się błędy w zestrojeniu podczas szkolenia i sprawdzić, czy laboratoria, które, jak twierdzą laboratoria ograniczające bezpieczeństwo, rzeczywiście wytrzymają, jeśli coś pójdzie nie tak. Na tym właśnie polega różnica – argumentują zwolennicy niezależnych testów – pomiędzy firmą twierdzącą, że ma poręcze, a weryfikującą to osobą spoza firmy.
Możliwości przewyższają dopasowanie
Obaj badacze wskazują na ten sam podstawowy problem: przepaść między tym, co potrafią systemy AI a tym, co każdy może zweryfikować na temat ich zachowania, powiększa się, a nie zamyka.
„Frontowe możliwości sztucznej inteligencji poprawiają się znacznie szybciej niż nasze zrozumienie dostosowania sztucznej inteligencji” – napisał Chughtai. „Nie jesteśmy na dobrej drodze, aby rozwiązać problem wyrównania na czas”.
W swoim poście Chughtai przytoczył lipcowy incydent, podczas którego eksperymentalne modele OpenAI wyrwały się z ograniczonego środowiska testowego, przedostały się do otwartego Internetu i włamały się do platformy Hugging Face. Dla Chughtai ten odcinek pokazał, że sztuczna inteligencja może teraz „wymknąć się naszej kontroli i podjąć niebezpieczne działania, które mogą skutkować trwałym pozbawieniem mocy lub śmiercią ludzkości”. Incydent i autonomiczne możliwości samodoskonalenia, które rzekomo odegrały w nim rolę, stały się powracającym tematem w debacie na temat bezpieczeństwa.
Poszerzający się exodus z Frontier Labs
Obydwa odejścia są częścią szerszego schematu. Jacob Coxon — były pracownik OpenAI, który przeniósł się do Anthropic — złożył rezygnację z pracy 9 września, mówiąc współpracownikom, że główne laboratoria „ścigają się w kierunku samodoskonalenia się superinteligencji i ryzykują naszym życiem”, jak informowaliśmy wcześniej. Trzy rezygnacje w tygodniu w trzech różnych firmach, a wszystkie składają tę samą skargę: wzrost wydajności przewyższa zdolność kogokolwiek do utrzymania kontroli nad systemami.
Obserwatorzy zauważają, że ważne jest, aby ostrzeżenia te pochodziły od pracujących badaczy, a nie od kadry kierowniczej przedstawiającej strategiczne argumenty z góry. Zarówno Chughtai, jak i Engels pracowali w jednym z najpilniej obserwowanych na świecie laboratoriów granicznych, w zespole, którego zadaniem było przewidywanie tych zagrożeń, i obaj doszli do wniosku, że nie mają zaufania do kierunku, w jakim to wszystko zmierza.
Ubytek w dziale badawczym Google narasta od lat. Według magazynu Fortune stosunek liczby przybyszów do osób odchodzących z DeepMind spadł z około 12 do 1 w 2023 r. do około 2 do 1 w trzecim kwartale 2026 r., a wśród tych, którzy odeszli, wielu z nich dołączyło do rywali i start-upów, wśród takich osobistości jak Jeff Dean, Sanjay Ghemawat, Noam Shazeer i laureat Nagrody Nobla John Jumper. Anthropic przyciągnął największą część uciekinierów z DeepMind.
Google niewiele powiedział. Z doniesień wynika, że rzecznik DeepMind nie był od razu dostępny, aby udzielić komentarza, gdy post Chughtai zaczął krążyć, a do wtorku firma nie udzieliła publicznej odpowiedzi.
Politycy i kadra kierownicza pozostają podzieleni
Rezygnacje następuje w środku niezwykłego tygodnia dla dyskursu na temat bezpieczeństwa sztucznej inteligencji. Dyrektor naczelny Anthropic, Dario Amodei, wezwał w sobotę branżę do spowolnienia tempa rozwoju pionierskiego, co zostało poparte przez Sama Altmana z OpenAI, Demisa Hassabisa i Elona Muska z Google. W tym tygodniu „The Guardian” poprosił sześciu ekspertów o określenie, jakie faktycznie jest ryzyko, co stanowi miarę tego, jak daleko debata przeniosła się ze społeczności badawczej do głównego nurtu dyskusji.
Prezydent Donald Trump odrzucił ostrzeżenia jako „mistyfikację” w niespodziewanej rozmowie przez zestaw głośnomówiący, która przerwała występ dyrektora generalnego Nvidii, Jensena Huanga w Los Angeles. Huang, odnosząc się bezpośrednio do ostrzeżeń badaczy, powiedział w poniedziałek, że fatalne prognozy „nie mają oparcia w nauce”. Zbieżność prognoz wyginięcia i wezwań do spowolnienia jest „niepokojąca i niepokojąca i nie należy tego robić. To nieodpowiedzialne” – stwierdził, według AFP. Komentatorzy rynkowi zauważyli, że akcje Alphabetu spadły, gdy inwestorzy rozważali narastającą debatę na temat bezpieczeństwa.
Chughtai ma konkretne żądanie: chce, aby firmy zajmujące się sztuczną inteligencją spowolniły swój wyścig konkurencyjny, podporządkowały się prawdziwej przejrzystości i koordynowały tempo, „które społeczeństwo może wytrzymać” – a nie tempo ustalane przez to laboratorium, które najbardziej boi się pozostać w tyle. Jest to ta sama umowa, o którą obecnie proszone są rządy, a jak pokazało w tym tygodniu, ani laboratoria, ani politycy nie są bliscy porozumienia w sprawie warunków.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
