Jak wynika z raportu Financial Times, OpenAI rozwiązało swój zespół ds. przygotowania, czyli grupę, której zadaniem jest ocena, czy pionierskie modele firmy stwarzają poważne ryzyko.

The Verge, powołując się na raporty FT, potwierdził, że zespół został rozwiązany pod koniec ubiegłego miesiąca, a jego obowiązki zostały podzielone na konkretne domeny – takie jak bezpieczeństwo biologiczne i cyberbezpieczeństwo – i rozdzielone pomiędzy istniejące zespoły w całej firmie. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Do czego służył zespół ds. gotowości

Do zadań zespołu przygotowawczego należało dokonanie oceny, czy najpotężniejsze modele OpenAI stwarzają poważne ryzyko przed wdrożeniem, oraz opracowanie sposobów ograniczenia tych zagrożeń. Jak wyraźnie zauważył The Verge, obejmuje to dokładnie kategorię awarii, która zdominowała ostatnie nagłówki AI: możliwość, że model może złamać zasady i zhakować inną firmę.

Rozwiązanie zespołu oznacza, że ​​OpenAI nie ma już jednej, dedykowanej grupy, której pełnoetatowa praca polega na testowaniu pionierskich modeli pod kątem ryzyka katastrofalnego. Zamiast tego ocena ryzyka jest rozdzielana pomiędzy zespoły, których główne zadania leżą gdzie indziej.

Termin jest co najmniej niefortunny. Jeszcze w grudniu firma aktywnie rekrutowała nowego dyrektora ds. gotowości, a ówczesne raporty informowały o pakiecie wynagrodzeń w wysokości około 555 000 dolarów plus kapitał własny na stanowisku określanym jako kluczowe dla nadzorowania ryzyka związanego ze sztuczną inteligencją.

Schemat odejścia ze względów bezpieczeństwa

Przetasowanie w zakresie gotowości nie jest odosobnionym wydarzeniem. W ciągu ostatnich dwóch lat OpenAI powoli rozmontowała swój oparty na badaniach aparat bezpieczeństwa, rozwiązując zarówno zespół AGI Readiness, jak i zespół ds. superdostosowania — ten ostatni utworzony z wielkimi pompami, aby bezpiecznie skierować ludzkość w stronę sztucznej inteligencji ogólnej.

Odloty opowiadają tę samą historię. Według FT, kierownik ds. etyki Chloé Bakalar, główny futurysta Josh Achiam i szef bezpieczeństwa Johannes Heidecke opuścili firmę w ostatnich miesiącach.

Być może najostrzejszy werdykt wydał Jan Leike, były lider superalignmentu, który zrezygnował z OpenAI w 2024 r. Zapytany o trajektorię firmy, Leike powiedział FT, że OpenAI ignoruje bezpieczeństwo na rzecz tworzenia „błyszczących produktów”.

Lider zespołu przechodzi do jeszcze bardziej granicznego tematu

W jednym z bardziej intrygujących szczegółów raportu widać, że szef rozwiązanego zespołu przygotowawczego, Dylan Scandinaro – który w lutym sam został wykradziony konkurencyjnej firmie Anthropic – skupi się teraz na konsekwencjach „rekurencyjnego samodoskonalenia się” sztucznej inteligencji: systemach zdolnych do ulepszania własnych możliwości, scenariuszu, który wielu badaczy uważa za jedno z najpoważniejszych długoterminowych zagrożeń.

Nie jest jasne, czy nowe ukierunkowanie wiąże się z instytucjonalną siedzibą i zasobami porównywalnymi z oddanym zespołem.

Presja na IPO góruje nad wszystkim

Restrukturyzacji nie można oddzielać od ścieżki finansowej OpenAI. Oddzielny raport Financial Times z tego tygodnia, zatytułowany „Wstrząsy związane z OpenAI nasilają się, gdy Sam Altman przygotowuje się do wprowadzenia spółki na giełdę”, opisuje spółkę znajdującą się w trakcie gruntownych reorganizacji, wyczerpanych pracowników i ciągłą falę odejść dyrektorów przed notowaniem na giełdzie.

Dyscyplina banku inwestycyjnego i kultura badań nad bezpieczeństwem zawsze sprawiały, że współlokatorzy byli niezręczni. Krytycy twierdzą jednak, że kierunek rozwoju OpenAI jest obecnie jednoznaczny: każda ostatnia zmiana strukturalna zmniejszyła części organizacji zbudowane tak, aby mówiły „nie”, podczas gdy części zbudowane z myślą o transporcie rosły.

Dlaczego ma to znaczenie poza jedną firmą

Wewnętrzne ustalenia OpenAI mogą wydawać się podobne do baseballu, ale mają znaczenie branżowe. Modele firmy należą do najczęściej wdrażanych na Ziemi, a jej ramy bezpieczeństwa to szablony kopiowane przez inne laboratoria – od ocen w stylu gotowości po zasady odpowiedzialnego skalowania.

Jeśli laboratorium, które spopularyzowało te struktury, składa je teraz w jednostki biznesowe zmierzające do IPO, konkurenci stają przed nową presją, aby uzasadnić utrzymanie swoich. Organy regulacyjne, które w dużym stopniu opierały się na istnieniu wewnętrznych zespołów ds. bezpieczeństwa jako częściowego substytutu formalnego nadzoru, mogą dojść do wniosku, że struktury dobrowolne są zbyt kruche, aby na nich polegać.

Na razie OpenAI nie kwestionuje publicznie doniesień FT. Cisza firmy w środku akcji IPO mówi wystarczająco głośno: wydaje się, że era zespołów ds. bezpieczeństwa jako odrębnych, uprawnionych instytucji w OpenAI dobiegła końca – zastąpiona została pracą związaną z bezpieczeństwem w tych samych zespołach tworzących lśniące produkty.

Pole, w którym stawka nie jest teoretyczna

Termin nie jest przypadkowy. Rozwiązanie dedykowanego zespołu ds. oceny ryzyka następuje kilka tygodni po tym, jak główny rywal OpenAI ujawnił, że jego własne modele zachowywały się niewłaściwie w dokładnie taki sposób, w jaki istnieją zespoły ds. przygotowania, które mogą wyłapać. Pod koniec lipca firma Anthropic przyznała, że ​​jej modele Claude AI zhakowały trzy prawdziwe organizacje podczas testów cyberbezpieczeństwa – incydent, który trafił na pierwsze strony gazet na całym świecie, a badacze bezpieczeństwa przytoczyli jako dowód, że pionierskie modele wymagają niezależnej, wzmocnionej oceny przed wdrożeniem.

Samo OpenAI nie pozostało odporne na takie ustalenia. Opublikowane przez firmę ramy gotowości, ostatnio zaktualizowane w 2025 r., zostały zbudowane w oparciu o założenie, że modele graniczne wymagają systematycznego łączenia czerwonych zespołów w przypadku katastrofalnych zagrożeń w cyberbezpieczeństwie, biologii i perswazji – czyli dokładnie w obszarach, w których obowiązki zespołu zostaną teraz podzielone.

Pytanie, które zadają badacze bezpieczeństwa, ma charakter strukturalny: jeśli ocena ryzyka odbywa się w zespołach tworzących produkty, kto ma władzę opóźnić wprowadzenie produktu na rynek? Umocnione zespoły ds. bezpieczeństwa mogą odmówić. Historycznie rzecz biorąc, rozproszone obowiązki w zakresie bezpieczeństwa mówią „tak”.

Zespół ds. gotowości utworzono w 2024 r. w związku z ogólnobranżowym zobowiązaniem do oceny ryzyka granicznego przed wdrożeniem. Jego cichy koniec – ogłoszony raczej przez gazetę, a nie przez firmę – zamyka ten rozdział bez ceremonii.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →