Penyelidik di Google DeepMind secara terbuka menolak kontrak pekerjaan yang mereka katakan menghalang mereka daripada mengkritik syarikat tentang risiko AI selama-lamanya - termasuk selepas mereka berhenti - dan Google kini telah mengakui alasan, mengatakan ia tidak akan menguatkuasakan sekatan selepas pekerjaan dan telah pun mengeluarkan mereka daripada syarat untuk pengambilan pekerja baharu.
The Washington Post melaporkan pada hari Selasa bahawa kakitangan DeepMind menuntut kebebasan untuk memberitahu orang ramai apa yang mereka ketahui tentang AI, membantah apa yang diterangkan oleh laporan itu sebagai larangan seumur hidup untuk mengkritik syarikat itu. Pertikaian itu telah berlaku dalam forum dalaman di Google sebelum tumpah ke pandangan umum, dan ia menyentuh salah satu soalan yang paling dipertikaikan dalam industri AI: sama ada pekerja di makmal membina sistem sempadan boleh memberi amaran kepada dunia luar tentang risiko yang mereka saksikan semasa kerja. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang Dikatakan oleh Kontrak
Menurut laporan Post, kontrak pekerja DeepMind telah memasukkan klausa tidak meremehkan yang terus mengikat pekerja walaupun selepas pekerjaan mereka tamat. Di bawah syarat sedemikian, penyelidik yang akan berlepas yang mengkritik amalan keselamatan Google secara terbuka — atau sekadar mendedahkan maklumat tentang sistem AI syarikat — secara teorinya boleh menghadapi pendedahan undang-undang sepanjang kerjaya mereka.
Seorang peserta dalam perbincangan dalaman menerangkan susunan dalam ulasan yang dipetik oleh pembaca Hacker News membincangkan artikel itu: kontrak itu nampaknya termasuk bahasa yang menyatakan bahawa berhenti tidak melepaskan pekerja daripada kewajipan tanpa meremehkan. Bagi penyelidik keselamatan, yang nilai profesionalnya sering bergantung pada keupayaan mereka untuk menerbitkan dan bercakap secara terbuka, kesannya ialah satu bentuk pembungkaman kekal.
Respons Google
Tekanan nampaknya telah menghasilkan hasil. Pada hari Jumaat, seorang eksekutif Google menjawab perbincangan dalaman mengenai klausa tidak meremehkan dan berkata syarikat itu tidak akan menguatkuasakannya terhadap pekerja yang telah meninggalkan syarikat itu, menurut Post.
Menjelang hari Selasa, jurucakap Google telah pergi lebih jauh, memberitahu akhbar itu dalam e-mel: "Kami sentiasa menggalakkan dialog terbuka tentang keselamatan dan tanggungjawab." Jurucakap itu menambah: "Baru-baru ini, kami telah mengemas kini syarat kami untuk pekerja baharu, yang termasuk mengalih keluar aspek selepas penamatan klausa tidak meremehkan."
Itu adalah konsesi yang bermakna. Fasal tidak meremehkan selepas pekerjaan telah menjadi titik kilat di seluruh industri teknologi dengan tepat kerana ia menghalang orang ramai daripada mendengar tentang masalah dalam syarikat selepas pekerja sudah meninggalkan — saat apabila individu mempunyai paling sedikit kerugian dan paling kredibiliti. Keputusan Google untuk menanggalkan komponen selepas penamatan daripada kontrak sewa baharu mencadangkan syarikat itu menilai kos reputasi untuk mempertahankan klausa itu lebih tinggi daripada apa-apa faedah kerahsiaan yang mereka sediakan.
Ketegangan Lama di Makmal AI
Pertikaian itu sesuai dengan corak yang telah dimainkan di seluruh industri AI sempadan. Penyelidik keselamatan telah berulang kali mendapati diri mereka terperangkap antara kewajipan kerahsiaan kepada majikan mereka dan keyakinan bahawa orang ramai berhak mengetahui tentang risiko yang ditimbulkan oleh sistem yang lebih berkemampuan daripada apa-apa yang digunakan sebelum ini.
DeepMind sendiri telah melihat perlepasan yang menonjol terikat dengan kebimbangan keselamatan, dan makmal saingan telah menghadapi peletakan jawatan berprofil tinggi mereka sendiri daripada penyelidik yang mengatakan mereka tidak boleh lagi berdiam diri tentang bagaimana majikan mereka menghampiri risiko. Petisyen pekerja dan surat terbuka telah menjadi mekanisme berulang di mana kakitangan makmal AI cuba mempengaruhi tingkah laku syarikat mereka — mengenai kontrak ketenteraan, mengenai komitmen keselamatan dan ketelusan.
Bantahan DeepMind menambah dimensi undang-undang baharu kepada dinamik itu: daripada mempertikaikan perkara yang sedang dibina syarikat, pekerja mempertikaikan jentera kontrak yang mengawal sama ada mereka boleh bercakap mengenainya. Peguam pekerjaan ambil perhatian bahawa kebolehkuatkuasaan fasal bukan perlekehan yang luas berbeza mengikut bidang kuasa, dan pengawal selia di Amerika Syarikat sebelum ini telah bertindak menentang syarikat yang menggunakan perjanjian pemisahan yang terlalu luas untuk menyenyapkan pekerja yang akan berlepas.
Masa juga penting. Google bersaing untuk bakat penyelidikan AI menentang OpenAI, Anthropic, Meta, dan kohort yang semakin berkembang bagi syarikat permulaan yang dibiayai dengan baik, dan penyelidik yang paling berkemungkinan menimbang soalan risiko adalah yang paling sensitif sama ada mereka boleh bercakap secara terbuka tentang perkara yang mereka lihat. Sebuah syarikat yang terkenal kerana mengekang bekas pekerja menghadapi cabaran pengambilan yang lebih sukar kepada calon-calon tersebut — pengiraan komersial yang mungkin telah mempertimbangkan keputusan Google untuk mengemas kini syaratnya dengan begitu cepat.
Mengapa Ia Penting
Syarikat Frontier AI menduduki kedudukan yang luar biasa. Mereka menggaji beberapa orang di Bumi dengan pengetahuan langsung tentang sistem AI yang paling berkebolehan, namun pekerja tersebut lazimnya terikat dengan perjanjian kerahsiaan padat yang bertahan lebih lama daripada pekerjaan mereka. Jika setiap saksi yang boleh dipercayai kepada amalan keselamatan dalaman makmal dihalang dari segi undang-undang daripada bercakap, rekod awam bergantung sepenuhnya pada pilihan syarikat untuk mendedahkan tentang diri mereka sendiri.
Itulah sebabnya hasil pertikaian ini melangkaui Google. Cara syarikat AI mengekang — atau melindungi — ucapan masa depan penyelidik mereka mungkin membentuk sama ada amaran tentang sistem berkuasa sampai kepada pengawal selia, wartawan dan orang ramai cukup awal untuk menjadi penting, atau tiba hanya dalam imbasan semula. Konsesi Google mengalih keluar satu klausa gag seumur hidup daripada syarat pengambilan baharunya; sama ada pekerja sedia ada menerima kejelasan yang setara masih kekal, buat masa ini, persoalan terbuka yang ditimbulkan oleh mereka yang bekerja di sana.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
