Pekerja di dalam bahagian kecerdasan buatan Google mendesak eksekutif untuk melepaskan mereka daripada perjanjian tanpa memandang rendah, dengan alasan bahawa mereka mesti bebas untuk memaklumkan orang ramai tentang risiko teknologi yang mereka sedang usahakan untuk maju, menurut laporan eksklusif The Washington Post oleh Gerrit De Vynck, yang memetik orang di dalam syarikat itu.
Sari kata laporan itu memotong inti rungutan: "Kontrak pekerjaan menghalang kakitangan daripada memberi amaran kepada orang ramai tentang risiko AI, kata pekerja semasa." Liputan susulan kisah tersebut telah menggambarkan klausa tersebut sebagai larangan seumur hidup untuk mengkritik Google, dengan tajuk utama merentas agregator dan saluran antarabangsa yang mencirikan pertikaian itu sebagai "kakitangan DeepMind membantah larangan seumur hidup untuk mengkritik Google" dan, lebih khusus lagi, dua kakitangan DeepMind meminta Google untuk menarik balik perkara yang mereka panggil sebagai gag seumur hidup. Untuk lebih banyak konteks tentang cerita ini, lihat [berita AI terbaharu] kami yang berterusan (https://aibuzzwire.news).
Apa yang diminta oleh pekerja
Menurut laporan itu, kakitangan di Google DeepMind — bahagian Alphabet di sebalik kebanyakan penyelidikan AI sempadan syarikat — mahu pihak pengurusan melepaskan mereka daripada kewajipan kontrak tanpa meremehkan supaya mereka boleh bercakap secara terbuka tentang kebimbangan keselamatan yang berkaitan dengan sistem yang mereka bina, tanpa menghadapi tindakan balas undang-undang.
Sebagai ringkasan laporan telah menyampaikannya, perjanjian yang dipersoalkan mengikat kakitangan untuk berdiam diri bukan sahaja mengenai amalan korporat tetapi juga mengenai risiko teknologi dan keputusan dalaman yang membentuk cara sistem AI mencapai dunia. Hujah pekerja adalah mudah: orang yang paling dekat dengan teknologi, dan oleh itu paling hampir dengan mod kegagalannya, secara kontrak dikekang daripada memberitahu orang ramai apa yang mereka tahu.
Mengikut liputan susulan, Google tidak menangani permintaan khusus. Laporan Washington Post mengaitkan akaun pertikaian itu kepada pekerja semasa di dalam syarikat dan bukannya kepada kenyataan Google rasmi, dan respons syarikat, jika ada, kekal sebagai soalan terbuka yang paling penting dalam cerita itu.
Mengapa ia penting untuk keselamatan AI
Pertikaian itu berlaku pada saat yang sensitif untuk industri AI. Perdebatan tentang berapa banyak makmal sempadan harus didedahkan - tentang keupayaan, potensi penyalahgunaan dan ujian dalaman - telah dipergiatkan apabila model berkembang lebih berkebolehan dan lebih berbangkit dari segi ekonomi. Jika orang yang melakukan kerja tidak boleh mengkritik secara terbuka amalan majikan mereka, pengkritik berpendapat, orang ramai dan penggubal dasar kehilangan salah satu daripada beberapa saluran amaran awal yang mereka ada.
Sejarah bidang menawarkan preseden yang jelas. Geoffrey Hinton, yang menghabiskan lebih sedekad di Google dan penyelidikan rangkaian neuralnya menyokong ledakan AI moden, meninggalkan syarikat itu pada 2023 secara eksplisit supaya dia boleh bercakap secara bebas tentang risiko AI. Minggu ini dia pergi lebih jauh, memberitahu The Guardian bahawa manusia mungkin lebih baik untuk tidak membangunkan AI, dan memberi amaran tentang AI "Chornobyl" — seperti serangan yang didayakan AI yang menyebabkan gangguan kuasa besar-besaran atau kegagalan sistem kewangan selama seminggu — tiba tahun ini atau seterusnya.
Hinton boleh bersuara kerana dia pergi. Pekerja DeepMind, sebaliknya, cuba mengubah syarat supaya mereka tidak perlu membuat pilihan yang sama antara kerjaya dan suara.
Perdagangan ketelusan-berbanding-kerahsiaan
Pertikaian itu mencerminkan ketegangan struktur dalam industri AI. Syarikat berpendapat bahawa syarat pekerjaan yang terhad melindungi rahsia perdagangan, menghalang dakwaan yang mengelirukan dan mengekalkan perselisihan dalaman daripada menumpahkan pandangan awam pada pertengahan pembangunan. Pekerja dan peguam bela keselamatan menyangkal bahawa syarat yang sama boleh menyembunyikan bahaya yang tulen - dan syarikat yang yakin dengan amalan keselamatannya tidak perlu takut daripada pengkritik dalaman yang berpengetahuan.
Laporan Washington Post merangka perkara itu sebagai salah satu insentif: kontrak pekerjaan, dalam kata-kata pekerja semasa yang dipetik oleh akhbar itu, menghalang kakitangan daripada memberi amaran kepada orang ramai tentang risiko AI. Pembingkaian itu menjadikan pertikaian lebih besar daripada dasar HR satu syarikat. Ini adalah ujian sama ada sumber maklumat utama orang ramai tentang risiko AI sempadan adalah pemasaran makmal sendiri, atau orang di dalam makmal tersebut yang mempunyai pengetahuan langsung.
Apa yang dikatakan oleh komuniti pembangun
Perbincangan laporan itu cepat sampai ke muka depan Berita Hacker, di mana pengulas berpecah mengenai etika keadaan. Pengambilan yang paling disokong berhujah bahawa pekerja yang dikekang perlu berjalan sahaja: "Mereka harus berhenti dan memberi amaran. Apa-apa lagi adalah munafik." Yang lain menolak, dengan menyatakan bahawa pekerja tidak diwajibkan untuk mengorbankan kerjaya mereka dan pembaharuan kontrak kolektif adalah jalan yang lebih realistik daripada keluar individu.
Perdebatan itu - berhenti, kekal dan tolak, atau berdiam diri - adalah tepat yang mengikat pekerja mengatakan mereka cuba melarikan diri.
Apa yang perlu ditonton
Tiga perkara akan menentukan ke mana ia pergi. Pertama, sama ada Google mengiktiraf permintaan itu dan, yang lebih penting, sama ada ia bertindak ke atasnya — tindak balas syarikat terhadap permintaan khusus setakat ini tidak terdapat dalam rekod. Kedua, sama ada pekerja meningkat, contohnya dengan menganjurkan secara terbuka atau beralih kepada pengawal selia, jika jawapannya tidak. Dan ketiga, sama ada makmal sempadan lain menghadapi tekanan yang sama; jika istilah tidak meremehkan adalah perkara biasa di seluruh industri, pertikaian DeepMind boleh menjadi templat untuk penganjuran buruh yang tertumpu pada ketelusan AI.
Buat masa ini, permintaan itu sendiri adalah berita: sekumpulan penyelidik dengan pendedahan langsung setiap hari kepada sistem AI sempadan percaya kepentingan awam memerlukan suara mereka, dan secara rasmi telah meminta untuk dibenarkan menggunakannya. Cara jawapan Google akan menerangkan tentang sejauh mana perbezaan pendapat yang sedia untuk bertolak ansur oleh perlumbaan AI sempadan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
