Dyrektor generalny Proton, Andy Yen, odwołał kontrowersyjny plan firmy polegający na „ponownym przesłuchaniu” pracowników na temat korzystania przez nich z sztucznej inteligencji w celu podjęcia decyzji, kto utrzyma ich posady, i podczas piątkowego spotkania, w którym uczestniczyli wszyscy pracownicy, powiedział pracownikom, że ponowne wywiady „już spełniły swój cel”. Odwrócenie sytuacji nastąpiło dzień po opublikowaniu przez 404 Media dochodzenia w sprawie agresywnego wewnętrznego nacisku na sztuczną inteligencję firmy zajmującej się ochroną prywatności – a wielu pracowników nie jest przekonanych, że oznacza to prawdziwą zmianę.
Proton, szwajcarska firma stojąca za Proton Mail, spotkała się z ostrą krytyką po tym, jak w zeszłym tygodniu 404 Media poinformowało, że planuje ponownie przeprowadzić wywiady z pracownikami na temat wykorzystania przez nich sztucznej inteligencji, a ich wyniki będą powiązane z dalszym zatrudnieniem. AI Buzz Wire opisał pierwotny plan ponownego przesłuchania, kiedy opublikowano go po raz pierwszy, w ramach naszych bieżących relacji z branży sztucznej inteligencji. Nowy raport, oparty na rozmowach z ośmioma obecnymi i jednym byłym pracownikiem, a także czatach na platformie Slack, nagraniach spotkań i wewnętrznym manifestie sztucznej inteligencji napisanym przez dyrektora technologicznego firmy Proton, Barta Butlera, opisuje firmę, która przyspiesza wdrażanie sztucznej inteligencji szybciej, niż pozwalali jej pracownicy ochrony – kierując się, przynajmniej częściowo, celami związanymi z przychodami.
„To bzdury i myślenie o przegranej”
Najczęściej cytowana wymiana zdań w śledztwie pochodziła od samego Yena. Kiedy pracownik kanału bezpieczeństwa Proton na Slack nalegał, aby firma poświęciła co najmniej kilka dni na przetestowanie nowo napisanego kodu przed jego wysyłką, Yen odpowiedział pod koniec sierpnia: „To bzdury i myślenie o przegranej. Oczywiście, że można działać szybko i bezpiecznie. Przestań myśleć [że tak nie jest]”.
Manifest sztucznej inteligencji Butlera, opublikowany wewnętrznie, mówił inżynierom bez ogródek: „Wasza stara praca zniknęła”. Napisał, że niezastosowanie się do sztucznej inteligencji stanowi „egzystencjalne zagrożenie dla powodzenia samej misji” – sformułowanie, które ostro koliduje z publicznym wizerunkiem Protona jako ostrożnego strażnika prywatności użytkowników.
Co Yen powiedziała pracownikom
Podczas piątkowej konferencji Yen rozpoczął swego rodzaju potwierdzeniem: „Chcę osobiście przyznać, że z mojej strony wystąpił błąd w komunikacji i że jest wiele rzeczy, które prawdopodobnie mogły i powinny były zostać przekazane inaczej” – powiedział według 404 Media. Ale połączył przeprosiny ze zobowiązaniem do kontynuowania podstawowej inicjatywy: „Idąc dalej, nadal będę naciskał”.
Podczas samych ponownych wywiadów Yen powiedział, że kierownictwo zebrało się w ciągu ostatnich dwóch dni, a także rozmawiało z zarządem Fundacji Proton, w której skład wchodzą Yen, twórca stron internetowych Sir Tim Berners-Lee, profesor Carissa Veliz, Dingchao Lu i Antonio Gambardella. „Uważnie monitorują sytuację” – powiedziała Yen. Wniosek: „Zdecydowaliśmy się faktycznie odwołać ponowne wywiady”. Jego uzasadnienie: „Myślę, że właściwie w, powiedzmy, niezamierzony sposób, faktycznie spełniły już swój cel” – oznacza to, że pracownicy teraz rozmawiają i dowiadują się o sztucznej inteligencji.
Butler bardziej bezpośrednio mówił o pomyłce. „Efektywne i pragmatyczne wykorzystanie sztucznej inteligencji nie oznacza, że zrezygnowaliśmy z bezpieczeństwa, dobrej architektury czy solidnych zasad inżynierii oprogramowania” – powiedział, dodając, że Yen „musi i zobowiązał się do poprawy” sposobu komunikacji z pracownikami. W dalszej części spotkania, odpowiadając na uwagi pracownika, powiedział: „Spieprzyliśmy, wiemy, że schrzaniliśmy”.
Pracownicy widzą „kontrolę szkód”
Według 404 Media reakcje wśród pracowników Protonu były podzielone. Jeden z pracowników zauważył, że „niektórzy są zadowoleni z postępu. Inni uważają, że to niczego nie zmieni, ponieważ nie będzie to miało żadnych konsekwencji dla Andy’ego [Yena]”, dodając, że „woleliby prawdziwą odpowiedzialność ze strony zespołu kierowniczego”. Ten sam pracownik wskazał, że większościowy pakiet akcji Yen stanowi strukturalne ograniczenie możliwości zarządu.
Inni sygnalizowali, co wydarzyło się w tym samym momencie, co odwołanie: kierownictwo stwierdziło, że kwestie, które będą mierzone podczas ponownych rozmów kwalifikacyjnych, staną się zamiast tego elementem oceny wyników. „Wyraźnie powiedzieli, że kierunek się nie zmienił” – powiedział jeden z pracowników. „Nie uspokaja mnie to jako użytkownika Protonu. Jako pracownik, ponowne rozmowy kwalifikacyjne nie zostały odwołane, dopóki sprawa nie została upubliczniona, pomimo obaw zgłaszanych przez wielu z nas. Myślę, że wykracza to poza problemy z komunikacją i rosnące bóle”.
„W tej chwili wszystko wydaje się zgodne z kontrolą szkód” – dodał pracownik. Jak podaje 404 Media, poza Protonem wielu użytkowników wzywało Yen do rezygnacji w mediach społecznościowych w ciągu 24 godzin od publikacji dochodzenia.
Co będzie dalej
Yen powiedział pracownikom, że nadchodzą „zmiany organizacyjne”, a w przyszłym miesiącu reorganizacja skupi się na „redystrybucji talentów między zespołami” i zapewnił, że „nie będzie utraty miejsc pracy ze względu na sztuczną inteligencję”. Zapewnienie to zostanie teraz sprawdzone w świetle rzeczywistości, w której oczekuje się, że wskaźniki wykorzystania sztucznej inteligencji będą uwzględniane w ocenach wyników, czyli tego samego mechanizmu, którego pracownicy obawiali się, że wyegzekwują ponowne wywiady.
Odcinek stał się studium przypadku w zakresie odgórnych mandatów AI. Działalność Protona opiera się na obietnicy zaufania, a ubiegły tydzień pokazał, jak szybko agresywne wewnętrzne działania związane ze sztuczną inteligencją – niezależnie od tego, jak motywowane są komercyjnie – mogą podważyć tę obietnicę. To, czy odwołanie ponownej rozmowy kwalifikacyjnej, reorganizacja i zobowiązanie do bardziej grzecznego „naciskania” przywrócą to, to już zupełnie inna kwestia.
