Para peneliti di Google DeepMind secara terbuka menolak kontrak kerja yang menurut mereka melarang mereka mengkritik perusahaan mengenai risiko AI selamanya – termasuk setelah mereka berhenti – dan Google kini telah mengakui hal tersebut, dengan mengatakan bahwa pihaknya tidak akan menerapkan pembatasan pasca-kerja dan telah menghapuskan pembatasan tersebut dari persyaratan untuk karyawan baru.
The Washington Post melaporkan pada hari Selasa bahwa staf DeepMind menuntut kebebasan untuk memberi tahu publik apa yang mereka ketahui tentang AI, memprotes apa yang digambarkan dalam laporan tersebut sebagai larangan seumur hidup untuk mengkritik perusahaan. Perselisihan ini telah terjadi di forum internal Google sebelum terungkap ke publik, dan ini menyentuh salah satu pertanyaan yang paling diperdebatkan dalam industri AI: apakah karyawan di laboratorium yang membangun sistem terdepan dapat memperingatkan dunia luar tentang risiko yang mereka lihat di tempat kerja. For more context on this story, see our ongoing artificial intelligence updates.
Apa Kata Kontrak
Menurut laporan Post, kontrak karyawan DeepMind telah menyertakan klausul non-penghinaan yang terus mengikat pekerja bahkan setelah masa kerja mereka berakhir. Berdasarkan ketentuan tersebut, seorang peneliti yang akan mengundurkan diri dan secara terbuka mengkritik praktik keselamatan Google – atau sekadar mengungkapkan informasi tentang sistem AI perusahaan – secara teori dapat menghadapi tuntutan hukum selama sisa kariernya.
Seorang peserta dalam diskusi internal menggambarkan pengaturan tersebut dalam komentar yang dikutip oleh pembaca Hacker News yang membahas artikel tersebut: kontrak tersebut tampaknya menyertakan bahasa yang menetapkan bahwa berhenti tidak membebaskan karyawan dari kewajiban untuk tidak meremehkan. Bagi peneliti keselamatan, yang nilai profesionalnya seringkali bergantung pada kemampuan mereka untuk mempublikasikan dan berbicara secara terbuka, dampaknya adalah bentuk pembungkaman permanen.
Tanggapan Google
Tekanan tersebut tampaknya membuahkan hasil. Pada hari Jumat, seorang eksekutif Google menanggapi diskusi internal mengenai klausul non-penghinaan dan mengatakan perusahaan tidak akan menerapkannya terhadap pekerja yang telah meninggalkan perusahaan, menurut Post.
Pada hari Selasa, juru bicara Google telah melangkah lebih jauh dengan mengatakan kepada surat kabar tersebut melalui email: "Kami selalu mendorong dialog terbuka tentang keselamatan dan tanggung jawab." Juru bicara tersebut menambahkan: "Baru-baru ini, kami telah memperbarui ketentuan kami untuk karyawan baru, termasuk menghapus aspek pasca-pemutusan hubungan kerja dari klausul non-penghinaan."
Itu adalah konsesi yang berarti. Klausul non-penghinaan pasca-kerja telah menjadi titik panas di industri teknologi justru karena klausa tersebut menghalangi masyarakat untuk mendengar tentang masalah-masalah di dalam perusahaan setelah karyawannya pergi – momen ketika individu memiliki kerugian paling kecil dan kredibilitas paling besar. Keputusan Google untuk menghapus komponen pasca-pemutusan kontrak dari kontrak karyawan baru menunjukkan bahwa perusahaan menilai kerugian reputasi dalam mempertahankan klausul tersebut lebih tinggi daripada manfaat kerahasiaan apa pun yang diberikan.
Ketegangan Berkepanjangan di AI Labs
Perselisihan ini sesuai dengan pola yang terjadi di industri AI terdepan. Para peneliti keselamatan telah berulang kali menemukan diri mereka terjebak antara kewajiban kerahasiaan kepada perusahaan mereka dan keyakinan bahwa masyarakat berhak mengetahui risiko yang ditimbulkan oleh sistem yang lebih mampu dibandingkan apa pun yang diterapkan sebelumnya.
DeepMind sendiri telah mengalami banyak perubahan terkait dengan masalah keamanan, dan laboratorium saingannya juga menghadapi pengunduran diri para peneliti yang mengatakan bahwa mereka tidak bisa lagi tinggal diam mengenai cara perusahaan mereka menghadapi risiko. Petisi karyawan dan surat terbuka telah menjadi mekanisme yang berulang kali dilakukan oleh staf laboratorium AI untuk memengaruhi perilaku perusahaan mereka — dalam hal kontrak militer, komitmen keselamatan, dan transparansi.
Protes DeepMind menambah dimensi hukum baru pada dinamika tersebut: alih-alih memperdebatkan apa yang sedang dibangun perusahaan, para karyawan malah memperdebatkan mekanisme kontrak yang mengatur apakah mereka boleh membicarakannya. Pengacara ketenagakerjaan mencatat bahwa keberlakuan klausul non-penghinaan berbeda-beda di setiap yurisdiksi, dan regulator di Amerika Serikat sebelumnya telah mengambil tindakan terhadap perusahaan yang menggunakan perjanjian pemisahan yang terlalu luas untuk membungkam pekerja yang akan pulang.
Waktunya juga penting. Google bersaing untuk mendapatkan talenta penelitian AI melawan OpenAI, Anthropic, Meta, dan sejumlah startup yang memiliki dana besar. Sebuah perusahaan yang terkenal suka membungkam mantan karyawannya menghadapi tantangan perekrutan yang lebih sulit terhadap kandidat tersebut – sebuah perhitungan komersial yang mungkin membebani keputusan Google untuk memperbarui persyaratannya begitu cepat.
Mengapa Itu Penting
Perusahaan AI Frontier menempati posisi yang tidak biasa. Mereka mempekerjakan beberapa dari sedikit orang di dunia yang memiliki pengetahuan langsung tentang sistem AI yang paling mumpuni, namun para karyawan tersebut biasanya terikat oleh perjanjian kerahasiaan yang ketat dan lebih lama masa kerjanya. Jika setiap saksi yang kredibel mengenai praktik keselamatan internal laboratorium dilarang secara hukum untuk berbicara, catatan publik sepenuhnya bergantung pada apa yang perusahaan pilih untuk ungkapkan tentang diri mereka sendiri.
Itulah sebabnya hasil perselisihan ini tidak hanya berdampak pada Google. Cara perusahaan AI membatasi — atau melindungi — pidato para peneliti di masa depan dapat menentukan apakah peringatan mengenai sistem yang kuat akan sampai ke regulator, jurnalis, dan masyarakat sejak dini, atau hanya muncul dalam retrospeksi. Konsesi Google menghapus satu klausul penghentian seumur hidup dari persyaratan perekrutan barunya; apakah karyawan yang ada menerima kejelasan yang sama, untuk saat ini, masih menjadi pertanyaan terbuka yang diajukan oleh orang-orang yang bekerja di sana.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
