CEO Proton Andy Yen telah membatalkan rencana kontroversial perusahaan untuk "mewawancarai ulang" karyawan tentang penggunaan AI mereka untuk memutuskan siapa yang tetap mempertahankan pekerjaan mereka, dan mengatakan kepada staf pada pertemuan semua pihak pada hari Jumat bahwa wawancara ulang "telah memenuhi tujuan mereka." Hal ini terjadi satu hari setelah 404 Media mempublikasikan investigasi terhadap dorongan AI internal yang agresif dari perusahaan privasi tersebut – dan banyak karyawan masih tidak yakin bahwa hal ini merupakan perubahan nyata.
Proton, perusahaan Swiss di balik Proton Mail, mendapat kritik keras setelah 404 Media melaporkan pekan lalu bahwa mereka berencana untuk mewawancarai ulang staf tentang penggunaan AI mereka, dengan hasil yang terkait dengan kelanjutan pekerjaan. AI Buzz Wire meliput rencana wawancara ulang awal saat pertama kali dilaporkan, sebagai bagian dari liputan industri AI kami yang berkelanjutan. Laporan baru tersebut, berdasarkan percakapan dengan delapan karyawan saat ini dan satu mantan karyawan, bersama dengan obrolan Slack, audio rapat, dan manifesto AI internal yang ditulis oleh CTO Proton Bart Butler, menggambarkan sebuah perusahaan yang mendorong adopsi AI lebih cepat daripada yang dapat diterima oleh staf keamanannya — didorong, setidaknya sebagian, oleh sasaran pendapatan.
"Itu omong kosong dan pemikiran pecundang"
Pernyataan yang paling banyak dikutip dalam penyelidikan ini datang dari Yen sendiri. Ketika seorang karyawan di saluran keamanan Proton, Slack, mendesak perusahaan tersebut untuk meluangkan setidaknya beberapa hari untuk menguji kode yang baru ditulis sebelum mengirimkannya, Yen menjawab pada akhir Agustus: "Itu adalah omong kosong dan pemikiran pecundang. Tentu saja mungkin saja dilakukan dengan cepat dan aman. Berhentilah berpikir [bahwa hal tersebut tidak benar]."
Manifesto AI Butler, yang diposting secara internal, memberi tahu para insinyur secara blak-blakan: "Pekerjaan lama Anda telah hilang." Dia menulis bahwa kegagalan dalam menggunakan AI menimbulkan "ancaman eksistensial terhadap keberhasilan misi itu sendiri" – sebuah bahasa yang sangat bertentangan dengan citra publik Proton sebagai penjaga privasi pengguna yang berhati-hati.
Apa yang dikatakan Yen kepada karyawannya
Pada pertemuan hari Jumat, Yen membuka dengan semacam pengakuan: "Saya ingin mengakui pada diri saya sendiri, secara pribadi, bahwa ada kegagalan komunikasi di pihak saya dan ada banyak hal yang mungkin dapat dan seharusnya dikomunikasikan secara berbeda," katanya, menurut 404 Media. Namun dia memadukan permintaan maaf tersebut dengan komitmen untuk melanjutkan dorongan mendasar: "Ke depan, saya masih akan terus mendorong."
Pada wawancara ulang itu sendiri, Yen mengatakan para pemimpin telah berkumpul selama dua hari sebelumnya dan juga telah berbicara dengan dewan Proton Foundation – yang pengurusnya termasuk Yen, penemu web Sir Tim Berners-Lee, profesor Carissa Veliz, Dingchao Lu dan Antonio Gambardella. “Mereka memantau situasi dengan cermat,” kata Yen. Kesimpulannya: "Kami telah memutuskan untuk membatalkan wawancara ulang." Alasannya: "Saya pikir sebenarnya, katakanlah, dengan cara yang tidak disengaja, mereka sebenarnya telah mencapai tujuan mereka" — yaitu, karyawan sekarang berbicara dan belajar tentang AI.
Butler lebih blak-blakan mengenai kesalahan langkah tersebut. “Menggunakan AI secara efektif dan pragmatis tidak berarti bahwa kita telah menyerah pada keamanan, atau arsitektur yang baik, atau prinsip-prinsip rekayasa perangkat lunak yang baik,” katanya, seraya menambahkan bahwa Yen “perlu, dan dia berkomitmen untuk, melakukan yang lebih baik” dalam cara dia berkomunikasi dengan karyawan. Kemudian dalam pertemuan tersebut, menanggapi komentar seorang karyawan, dia berkata: "Kami mengacau, kami tahu kami mengacau."
Karyawan melihat "pengendalian kerusakan"
Reaksi di antara staf Proton, menurut 404 Media, terpecah. Seorang karyawan menyatakan bahwa "beberapa orang senang dengan kemajuan yang dicapai. Yang lain percaya bahwa hal ini tidak akan mengubah apa pun karena tidak ada konsekuensi apa pun bagi Andy [Yen]," dan menambahkan bahwa mereka "lebih memilih akuntabilitas nyata dari tim kepemimpinan." Karyawan yang sama menunjuk pada kepemilikan saham mayoritas Yen sebagai batasan struktural atas apa yang dapat dilakukan dewan direksi.
Yang lain menandai apa yang terjadi bersamaan dengan pembatalan tersebut: pimpinan mengatakan hal-hal yang akan diukur dalam wawancara ulang akan menjadi komponen tinjauan kinerja. “Mereka telah mengatakan dengan jelas bahwa arahnya tidak berubah,” kata seorang karyawan. "Sebagai pengguna Proton, hal ini tidak meyakinkan saya. Sebagai seorang karyawan, wawancara ulang tidak dibatalkan sampai hal ini diketahui publik meskipun ada kekhawatiran yang diajukan oleh banyak dari kami. Saya pikir ini lebih dari sekadar masalah komunikasi dan penderitaan yang semakin besar."
“Saat ini, semuanya tampak konsisten dalam hal pengendalian kerusakan,” tambah karyawan tersebut. Di luar Proton, banyak pengguna yang meminta Yen untuk mengundurkan diri di media sosial dalam waktu 24 jam setelah penyelidikan dipublikasikan, 404 Media melaporkan.
Apa yang terjadi selanjutnya
Yen mengatakan kepada stafnya bahwa “perubahan organisasi” akan segera terjadi, dengan reorganisasi bulan depan yang berfokus pada “mendistribusikan kembali bakat ke seluruh tim” – dan menegaskan “tidak akan ada kehilangan pekerjaan akibat AI.” Kepastian tersebut sekarang akan diuji dengan kenyataan bahwa metrik penggunaan AI diharapkan dapat dimasukkan ke dalam tinjauan kinerja, mekanisme yang dikhawatirkan oleh karyawan akan diterapkan melalui wawancara ulang.
Episode ini telah menjadi studi kasus dalam batasan mandat AI yang bersifat top-down. Bisnis Proton dibangun berdasarkan janji kepercayaan, dan minggu lalu menunjukkan betapa cepatnya dorongan AI internal yang agresif – betapapun bermotif komersial – dapat menghambat janji tersebut. Apakah wawancara ulang yang dibatalkan, reorganisasi, dan komitmen untuk "mendorong" pemulihan dengan lebih sopan adalah pertanyaan yang sama sekali berbeda.
