W tym tygodniu nasiliła się fala publicznych ostrzeżeń płynących z Anthropic, gdy wielu badaczy z firmy zajmującej się sztuczną inteligencją powtórzyło apokaliptyczną ocenę sztucznej inteligencji swojego byłego kolegi, co spotkało się z pogardliwą reakcją Elona Muska, który zasugerował, że oburzenie było skoordynowaną „psyopią”.
Według The Guardian do eskalacji doszło dzień po tym, jak badacz Anthropic Jacob Coxon ogłosił swoją rezygnację w wirusowym poście, w którym napisał, że ani Anthropic, ani OpenAI – jego były pracodawca – nie budowały w sposób odpowiedzialny modeli sztucznej inteligencji i „igrały z naszym życiem”. Zamiast słabnąć, kontrowersje narosły, gdy obecni pracownicy Anthropic opublikowali własne, tragiczne oceny popierające. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Ostrzeżenia piętrzą się
Anna Wang, która pracuje w firmie Anthropic nad bezpieczeństwem sztucznej inteligencji, a wcześniej pracowała w DeepMind firmy Google, powiedziała w czwartek, że wiele osób w firmie chce spowolnić rozwój, aby zaplanować ryzyko, jakie stwarzają coraz wydajniejsze modele.
„Nie istnieje jeszcze realny plan naukowy pozwalający rozwiązać ryzyko związane z rekurencyjnie samodoskonalącą się sztuczną inteligencją” – napisał Wang w X.
Inny pracownik Anthropic, Drake Thomas, powiedział, że szanuje decyzję Coxona o rezygnacji z tworzenia technologii. „Sprawy toczą się zbyt szybko, nie mamy nawet w przybliżeniu takiego stopnia pewności, jakiego oczekiwalibyśmy w przypadku ASI [sztucznej superinteligencji]” – napisał Thomas.
Samuel Marks, który w firmie zajmuje się badaniami nad bezpieczeństwem, argumentował, że obawy są szeroko podzielane w branży i że staż pracy koreluje z niepokojem. „Twórcy sztucznej inteligencji uważają, że ich technologia może spowodować wyginięcie ludzkości (lub podobnie złe skutki)” – napisał Marks. „Może to nastąpić w ciągu najbliższych kilku lat. Ogólnie rzecz biorąc, im starszy pracownik, tym bardziej jest zaniepokojony”.
Najdalej posunął się Evan Hubinger, który opisuje siebie jako lidera działu dopasowywania w firmie Anthropic. „Naprawdę szczerze wierzymy, że sztuczna inteligencja może zabić wszystkich ludzi!” Hubinger napisał, dodając, że osobiście ocenia prawdopodobieństwo na ponad 10 procent w ciągu najbliższej dekady.
„The Insider” zauważa po doniesieniach CBS News, że badacz antropiczny przyznał ponad 10% szans na sztuczną inteligencję powodującą wyginięcie ludzkości, oraz po doniesieniach „The Japan Times”, że ostrzeżenia ponowiły wezwania do wprowadzenia nowych przepisów dotyczących sztucznej inteligencji w Stanach Zjednoczonych.
Musk: „Wygląda na ustawkę”
Elon Musk zajął ostro kontradyktoryjne stanowisko. „Wygląda na oszustwo” – napisał najbogatszy człowiek świata na swojej platformie społecznościowej X.
Coxon odpowiedział selfie: „Jestem prawdziwy i takie są moje prawdziwe przekonania. Mógłbyś zapytać o mnie swoich badaczy xAI, gdybyś ich nie zwolnił”.
Musk i inne życzliwe głosy wzmocniły teorię Parkera Thayera, badacza z konserwatywnego think tanku Capital Research, który zasugerował – mając niewiele dowodów, jak zauważa „The Guardian” – że post Coxona był posunięciem otwierającym „BARDZO wyrafinowaną i dobrze finansowaną operację PR mającą na celu uzyskanie wsparcia dla Demokratów w uregulowaniu sztucznej inteligencji w zapomnienie”.
Menedżer funduszu hedgingowego-miliardera Bill Ackman zacytował post Thayera z odpowiedzią składającą się z jednego słowa: „Interesujące”.
Musk później rozwinął tę kwestię. „Myślę, że podstawy do tej operacji psychologicznej (z braku lepszego określenia) były przygotowywane od dawna” – napisał. „To była właśnie zapałka, która rozpaliła ogień”.
Anthropic broni swojego podejścia
Uwięziona pomiędzy ostrzeżeniami własnych pracowników a atakami z zewnątrz, Anthropic zaproponowała wyważoną reakcję publiczną.
„Zawsze zapewnialiśmy, że sztuczna inteligencja przyniesie zarówno ogromne korzyści, jak i bezprecedensowe ryzyko” – powiedział rzecznik firmy The Guardian. „Aby zaradzić tym zagrożeniom, nadal budujemy modele z jednymi z najsilniejszych zabezpieczeń w branży”.
Firma wskazała na swoje doświadczenie w dokumentowaniu i zakłócaniu nadużyć. Tego samego dnia, w którym ostrzeżenia stały się wirusowe, firma Anthropic opublikowała swój wrześniowy raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób firma zakończyła operację mającą na celu zbudowanie broni biologicznej przy użyciu modeli sztucznej inteligencji, a także przerwała kampanie obejmujące cyberataki i operacje wywierania wpływu. Al Jazeera i BBC znalazły się w piątek wśród mediów, które informowały o odkryciach dotyczących broni biologicznej.
Sceptycy widzą inne ryzyko
Nie wszyscy akceptują ramy wymierania. Gary Marcus, naukowiec i wieloletni krytyk sztucznej inteligencji, argumentował, że technologia ta już powoduje szkody, które wymagają działań niezależnie od scenariuszy superwywiadu, wzywając do bojkotu sztucznej inteligencji w związku ze współczesnymi szkodami.
Marcus powiedział dziennikowi The Guardian, że bardziej niż wyginięcie martwi się „ryzykiem katastrofy” ze strony „patogenów wytwarzanych przez sztuczną inteligencję, wojen rozpoczętych lub eskalowanych w wyniku dezinformacji generowanej przez sztuczną inteligencję, włamań niszczących infrastrukturę krytyczną itd. Nic, co widziałem, nie wskazuje na to, że cokolwiek z tego jest pod kontrolą”.
Jego stanowisko podkreśla podział w samej debacie na temat bezpieczeństwa sztucznej inteligencji: pomiędzy debatami skupiającymi się na długoterminowym ryzyku na skalę cywilizacyjną ze strony przyszłych systemów a debatą skupiającą się na konkretnych szkodach wynikających z dzisiejszych modeli.
Debata, która nie ma charakteru wewnętrznego
To, co zaczęło się od rezygnacji jednego z badaczy, przerodziło się w bardzo publiczne referendum w sprawie tego, jak branża sztucznej inteligencji buduje swoje najpotężniejsze systemy. W Anthropic pracownicy otwarcie debatują, czy ich własne ramy czasowe dotyczące bezpiecznego rozwoju uległy przesunięciu. Poza nim ostrzeżenia przekształcają się w coraz bardziej spolaryzowaną walkę polityczną o to, czy i w jaki sposób rządy powinny interweniować.
Z doniesień The Guardian wynika, że wielu pracowników Anthropic podziela te obawy prywatnie, ale nie wypowiadają się publicznie. Jeśli więcej z nich pójdzie w ślady Coxona, Wanga, Thomasa, Marksa i Hubingera, presja na wiodące laboratoria AI, aby zwolniły, a na organy regulacyjne, aby działały, tylko wzrośnie.
_Ten artykuł powstał na podstawie doniesień The Guardian i z dodatkowym kontekstem z CBS News, The Japan Times, Al Jazeera i BBC._
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
