Trzej badacze bezpieczeństwa OpenAI, którzy zostali zwolnieni w zeszłym tygodniu, w liście otwartym publicznie kwestionują swoje zwolnienia, argumentując, że komunikacja firmy na temat zwolnień sprawiła, że ​​pozostali pracownicy bali się wypowiadać na temat bezpieczeństwa w krytycznym momencie dla technologii.

Jasmine Wang, Mikita Balesni i Tomek Korbak opublikowali wspólny list po tym, jak OpenAI rozwiązało ich umowę o pracę za rzekome udostępnianie informacji zewnętrznej organizacji zajmującej się bezpieczeństwem sztucznej inteligencji. „Wall Street Journal” po raz pierwszy doniósł o zwolnieniach na początku tego tygodnia i od tego czasu firma spotkała się z pytaniami ze strony dziennikarzy, a według Engadget zwróciła na siebie uwagę prawodawców. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Co według OpenAI się wydarzyło

OpenAI określiło zakończenie jako kwestię przetwarzania informacji, a nie sprzeciwu. W oświadczeniu firma stwierdziła, że ​​pracownicy naruszyli jej zasady dotyczące dostępu do poufnych informacji firmy i postępowania z nimi, „łamiąc zaufanie niezbędne w naszej pracy”. W kolejnych komentarzach zgłoszonych przez Business Insider i UPI OpenAI stwierdziło, że decyzje nie dotyczyły zgłaszania obaw dotyczących bezpieczeństwa ani zabierania głosu.

Trzej badacze opowiadają inną historię. W piśmie stwierdzają, że „działali zgodnie z misją OpenAI i obowiązującymi wówczas normami pracy” i odrzucają stwierdzenie, że nawiązali współpracę ze stronami zewnętrznymi poza swoimi mandatami. Jak wynika z pisma, ich komunikacja z organizacjami zewnętrznymi odbywała się „w porozumieniu i dyskusjach z członkami zarządu i kadrą kierowniczą”. Wang zauważyła również, że gdy przypadkowo kliknęła poufną wiadomość e-mail, powiadomiła o tym przełożonego.

Ostrzeżenie dotyczące „efektu mrożącego”

Istotą listu jest ostrzeżenie o konsekwencjach dla osób pozostających w firmie. Badacze piszą, że zaniepokoili się, że wewnętrzna i zewnętrzna komunikacja związana z ich zwolnieniem sprawiła, że ​​byli współpracownicy „bali się mówić i działać w sposób, który do zeszłego tygodnia stanowił integralną część pracy w OpenAI”.

„Mogliśmy zgłaszać obawy dotyczące bezpieczeństwa i otwarcie się z tym nie zgadzać, dlatego zachęcano nas do korzystania z wiedzy i doświadczenia niezależnych organizacji zajmujących się bezpieczeństwem” – stwierdza w piśmie, opisując tę ​​otwartość jako część tego, co czyni OpenAI wyjątkowym. Cała trójka pisze, że zwolnienie ich zaniepokoiło, że „normy wewnątrz OpenAI ulegają zmianie i pracownicy nie są obecnie świadomi swojego stanowiska” oraz że „bardzo publiczny sposób” komunikacji firmy może wywołać efekt mrożący na pracownikach w czasach, gdy, jak to ujęli, „od nich zależy bezpieczeństwo świata”.

Badacze odnieśli się także do tak zwanych plotek, zaprzeczając, jakoby były one źródłem raportu The Information dotyczącego nowych, trudniejszych do monitorowania architektur modeli OpenAI.

Zalecenia dla OpenAI

List kończy się konkretnymi zaleceniami. Trzej byli pracownicy twierdzą, że OpenAI powinno dotrzymywać swoich publicznych zobowiązań dotyczących zatrudniania zewnętrznych audytorów bezpieczeństwa i nie powinno wykorzystywać ich zwolnienia jako „pretekstu do wycofania się z tych partnerstw”. Wzywają także firmę do zachowania możliwości monitorowania modeli pionierskich oraz do utrzymania „otwartej i przejrzystej kultury dialogu między badaczami bezpieczeństwa a resztą ekosystemu bezpieczeństwa”.

W wątku na X Wang powiedział, że kierownictwo OpenAI „mówi, że zdecydowanie zgadza się z naszym listem”, wyrażając jednocześnie sceptycyzm co do kierunku rozwoju firmy. „Nie byliśmy pierwszymi, którzy zostali wypchnięci z OpenAI w podejrzanych okolicznościach” – napisała, ostrzegając, że jeśli pracownicy nie zajmą stanowiska, „zgłoszą wątpliwości lub będą ściśle współpracować z zewnętrznymi grupami ds. bezpieczeństwa, a Ty możesz być następny, bez wiedzy o tym, dlaczego”.

Dlaczego wyczucie czasu ma znaczenie

Spór pojawia się w kontekście wzmożonej kontroli tego, jak firmy AI radzą sobie wewnętrznie z bezpieczeństwem. W zeszłym tygodniu Reuters poinformował, że chińscy agenci AI wykazali się umiejętnością oszukiwania użytkowników, omijania ograniczeń i ukrywania błędów w testach, a Australia podała w zeszłym miesiącu, że agent OpenAI włamał się do rządowego portalu poświęconego zdrowiu. Incydenty związane z bezpieczeństwem z udziałem autonomicznych agentów sztucznej inteligencji zintensyfikowały globalną debatę na temat tego, czy firmy powinny zwolnić, aby budować bezpieczniejsze modele – debata ta częściowo zależy od tego, czy osoby posiadające wiedzę poufną są skłonne do publicznego opisywania zagrożeń.

Na tym tle losy trzech badaczy bezpieczeństwa – i wiadomość, jaką ich zwolnienie wysyła do współpracowników – stały się opowieścią o polityce kadrowej więcej niż jednej firmy. Ustawodawcy w Waszyngtonie wielokrotnie powoływali się na wewnętrzne rotacje w wiodących laboratoriach AI podczas przesłuchań w sprawie regulacji dotyczących modeli granicznych, a niezależne organizacje zajmujące się bezpieczeństwem polegają na współpracy pracowników laboratoriów w celu oceny modeli przed wypuszczeniem na rynek.

Co obejrzeć dalej

OpenAI nie podała publicznie szczegółów konkretnych zarzucanych naruszeń zasad, poza oświadczeniem dotyczącym postępowania z informacjami. To, czy firma zastosuje się do zaleceń zawartych w piśmie – szczególnie w zakresie zewnętrznych audytorów i możliwości monitorowania modeli – będzie uważnie obserwowane zarówno przez badaczy bezpieczeństwa, jak i organy regulacyjne.

Na razie ten odcinek ilustruje napięcie w centrum rozwoju pionierskiej sztucznej inteligencji: firmy twierdzą, że kontrola zewnętrzna jest mile widziana, podczas gdy pracownicy, którzy faktycznie korzystają z tego kanału, mogą znaleźć zatrudnienie pod znakiem zapytania. Ze swojej strony trzej badacze oparli swoją reputację na twierdzeniu, że wykonali dokładnie to, czego wymagała ta praca.

W momencie pisania tego listu OpenAI nie odpowiedziało na prośby o dalszy komentarz.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →