Jak wynika z ekskluzywnego raportu Gerrita De Vyncka, w którym cytuje się osoby pracujące w firmie, pracownicy działu sztucznej inteligencji Google nalegają na kadrę kierowniczą, aby zwolniła ich z umów o zakazie dyskredytowania, argumentując, że muszą mieć swobodę informowania opinii publicznej o zagrożeniach związanych z technologią, nad którą pracują, nad którą pracują.
Podtytuł raportu odcina się od sedna skargi: „Umowy o pracę powstrzymują pracowników od ostrzegania opinii publicznej o zagrożeniach związanych ze sztuczną inteligencją, twierdzą obecni pracownicy”. W dalszych relacjach opisano klauzule jako równoznaczne z dożywotnim zakazem krytykowania Google, a nagłówki agregatorów i międzynarodowych mediów opisywały spór jako „protest pracowników DeepMind dożywotni zakaz krytykowania Google”, a dokładniej dwóch pracowników DeepMind prosiło Google o zniesienie tego, co nazywają dożywotnim kneblem. Więcej kontekstu tej historii znajdziesz w naszych bieżących najświeższych wiadomościach o sztucznej inteligencji.
O co proszą pracownicy
Według doniesień pracownicy Google DeepMind – oddziału Alphabet odpowiedzialnego za większość pionierskich badań firmy nad sztuczną inteligencją – chcą, aby kierownictwo zwolniło ich z umownych zobowiązań dotyczących niedyskryminowania, aby mogli otwarcie mówić o obawach związanych z bezpieczeństwem budowanych przez nich systemów, bez narażania się na odwet prawny.
Jak wynika ze streszczenia raportu, przedmiotowe porozumienia zobowiązują pracowników do milczenia nie tylko na temat praktyk korporacyjnych, ale także na temat zagrożeń technologicznych i wewnętrznych decyzji, które kształtują sposób, w jaki systemy sztucznej inteligencji docierają do świata. Argument pracowników jest prosty: osoby znajdujące się najbliżej technologii, a zatem najbliżej jej awarii, są umownie ograniczone w mówieniu opinii publicznej, co wiedzą.
W dalszej części artykułu Google nie odniósł się do konkretnych żądań. W raporcie Washington Post przypisano opis sporu obecnym pracownikom firmy, a nie oficjalnemu oświadczeniu Google, a ewentualna odpowiedź firmy pozostaje najważniejszym otwartym pytaniem w tej historii.
Dlaczego jest to ważne dla bezpieczeństwa sztucznej inteligencji
Spór trafia w delikatny moment dla branży sztucznej inteligencji. Debata na temat tego, ile laboratoriów pionierskich powinny ujawniać – na temat możliwości, potencjalnego niewłaściwego wykorzystania i testów wewnętrznych – nasiliła się w miarę, jak modele stawały się coraz bardziej wydajne i miały większe konsekwencje ekonomiczne. Krytycy twierdzą, że jeśli osoby wykonujące daną pracę nie mogą publicznie skrytykować praktyk swojego pracodawcy, społeczeństwo i decydenci tracą jeden z niewielu dostępnych im kanałów wczesnego ostrzegania.
Historia tej dziedziny oferuje wyraźny precedens. Geoffrey Hinton, który spędził w Google ponad dziesięć lat i którego badania nad sieciami neuronowymi stanowią podstawę współczesnego boomu na sztuczną inteligencję, opuścił firmę w 2023 r. wyraźnie, aby móc swobodnie wypowiadać się na temat zagrożeń związanych ze sztuczną inteligencją. W tym tygodniu posunął się dalej, mówiąc The Guardianowi, że może się okazać, że dla ludzkości byłoby lepiej, gdyby nigdy nie rozwijała sztucznej inteligencji, i ostrzegł przed „Czarnobylem” sztucznej inteligencji – takim jak atak wykorzystujący sztuczną inteligencję powodujący masową przerwę w dostawie prądu lub tygodniową awarię systemu finansowego – który nadejdzie w tym lub następnym roku.
Hinton mógł zabrać głos, ponieważ wyszedł. Z kolei pracownicy DeepMind próbują zmienić warunki, aby nie musieli dokonywać tego samego wyboru między karierą a głosem.
Handel przejrzystością i tajemnicą
Spór odzwierciedla napięcie strukturalne w branży sztucznej inteligencji. Firmy argumentują, że restrykcyjne warunki zatrudnienia chronią tajemnice handlowe, zapobiegają wprowadzającym w błąd twierdzeniom i zapobiegają przedostawaniu się wewnętrznych nieporozumień do opinii publicznej w połowie prac rozwojowych. Pracownicy i zwolennicy bezpieczeństwa zaprzeczają, że za tymi samymi terminami mogą kryć się rzeczywiste zagrożenia i że firma pewna swoich praktyk w zakresie bezpieczeństwa nie ma się czego obawiać ze strony świadomych krytyków wewnętrznych.
Raport Washington Post przedstawia tę kwestię jako jedną z zachęt: umowy o pracę, jak twierdzą obecni pracownicy cytowani w gazecie, zniechęcają pracowników do ostrzegania opinii publicznej o zagrożeniach związanych ze sztuczną inteligencją. Takie ramy sprawiają, że spór jest większy niż polityka kadrowa jednej firmy. Jest to test sprawdzający, czy głównym źródłem informacji dla opinii publicznej na temat pionierskich zagrożeń związanych ze sztuczną inteligencją będzie własny marketing laboratoriów, czy też osoby pracujące w tych laboratoriach posiadające bezpośrednią wiedzę.
Co mówi społeczność programistów
Dyskusja na temat raportu szybko trafiła na pierwszą stronę Hacker News, gdzie komentatorzy podzielili się co do etyki sytuacji. Najbardziej popierane stanowisko głosiło, że ograniczeni pracownicy powinni po prostu chodzić: „Powinni odejść i ostrzec. Wszystko inne jest hipokryzją”. Inni odsuwali się, zauważając, że pracownicy nie są zobowiązani do marnowania swojej kariery i że reforma umów zbiorowych jest bardziej realistyczną ścieżką niż indywidualne odejście.
Ta debata – zrezygnować, pozostać i napierać lub milczeć – jest dokładnie tym problemem, przed którym, jak twierdzą pracownicy, próbują uciec.
Co obejrzeć
Dokąd to zmierza, zadecydują trzy rzeczy. Po pierwsze, czy Google uzna żądanie i, co ważniejsze, czy zastosuje się do niego – na razie nie ma w aktach żadnej odpowiedzi firmy na konkretne żądania. Po drugie, czy pracownicy eskalują, na przykład organizując się publicznie lub zwracając się do organów regulacyjnych, jeśli odpowiedź brzmi nie. I po trzecie, czy inne laboratoria graniczne stoją przed podobną presją; jeśli w branży powszechne będą zasady niedyskredytujące, spór DeepMind może stać się wzorem dla organizacji związkowych skupionych na przejrzystości sztucznej inteligencji.
Na razie sama prośba jest wiadomością: grupa badaczy mających bezpośredni, codzienny kontakt z pionierskimi systemami sztucznej inteligencji uważa, że interes publiczny wymaga ich głosu, i formalnie zwróciła się o pozwolenie na ich wykorzystanie. Odpowiedzi Google powiedzą wiele o tym, jak duży sprzeciw jest gotowy tolerować pograniczna rasa sztucznej inteligencji.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
