Google DeepMind sedang mengupah pasukan pakar nuklear untuk menilai sama ada model AI sempadan boleh membantu dengan pembangunan senjata nuklear, menurut penyenaraian pekerjaan yang pertama kali dilaporkan oleh penerbitan industri Dinamik Pusat Data dan diliputi minggu ini oleh Futurisme.
Penyenaraian, yang disiarkan di tapak kerjaya Google, mencari "ahli fizik dan jurutera nuklear yang berkelayakan tinggi" untuk peranan pakar subjek nuklear dalam pasukan Bahan Letupan Kimia, Biologi, Radiologi, Nuklear dan hasil tinggi (CBRNE), yang berada dalam organisasi Pembangunan Bertanggungjawab dan Inovasi DeepMind. For more context on this story, see our ongoing breaking AI news.
Perkara Yang Diminta Sebenarnya Pekerjaan
Bar minimum adalah curam. Calon memerlukan PhD dalam bidang seperti fizik plasma atau kejuruteraan nuklear — atau "pengalaman praktikal yang setara" — serta rekod prestasi bekerjasama dengan makmal kerajaan AS dan kebiasaan dengan bidang dasar termasuk pengawasan simpanan stok, bukan percambahan, kawalan senjata atau pengurangan ancaman.
Kelayakan pilihan masih lagi: pengalaman dalam keselamatan AI, kepakaran pemodelan pengiraan, masa yang dihabiskan untuk bekerja di kemudahan pengguna laser utama, dan keupayaan untuk mereka bentuk penilaian keselamatan yang "jelas tidak dikelaskan dan tidak dikawal oleh eksport dengan membangunkan proksi sains penggunaan dwi untuk topik senjata."
Pampasan adalah selaras dengan keperluan pakar. Google menyenaraikan julat gaji $174,000 hingga $252,000, dengan bonus 15% di atas.
Mengapa Makmal AI Memerlukan Pakar Senjata
Tanggungjawab teras ialah menilai keselamatan model AI sempadan dalam domain nuklear. Penyenaraian itu menerangkan kerja itu sebagai menilai "bantuan model dalam pembelahan, gabungan dan percambahan senjata termonuklear, hidrodinamik sinaran, magnetohidrodinamik, dsb. dalam cara yang tidak dikelaskan dan bukan eksport terkawal."
Diterjemah daripada bahasa penyiaran kerja: DeepMind mahukan pakar yang boleh menentukan sama ada modelnya mampu memberikan bantuan yang bermakna dengan pembangunan senjata nuklear — dan berbuat demikian tanpa penilaian itu sendiri melepasi garisan klasifikasi. Rujukan kepada "proksi sains penggunaan dwi" mencadangkan ujian yang dibina berdasarkan masalah saintifik bersebelahan, seperti hidrodinamik sinaran, yang menyokong soalan khusus senjata yang tidak sepatutnya dijawab oleh model.
Domain fizik yang dinamakan dalam penyenaraian tidak sewenang-wenangnya. Hidrodinamik sinaran dan magnetohidrodinamik menerangkan bagaimana tenaga dan plasma berkelakuan di bawah keadaan melampau yang berkaitan dengan fizik senjata nuklear, itulah sebabnya ia berfungsi sebagai topik sensitif: kecekapan dalam bidang tersebut adalah asas kepada reka bentuk kepala peledak, namun sains asasnya juga diterbitkan secara terbuka dalam penyelidikan gabungan dan astrofizik. Membina soalan penilaian di sekitar "proksi" sedemikian membolehkan pasukan keselamatan mengukur sama ada model boleh menavigasi pengetahuan sempadan tersebut tanpa penilaian itu sendiri menjadi risiko percambahan.
Pembacaan Futurisme terhadap penyenaraian adalah tumpul: ia mencadangkan makmal penyelidikan AI teratas Google menjangkakan modelnya akhirnya akan menghadapi soalan dengan kandungan nuklear sebenar, dan mengupah kepakaran yang diperlukan untuk menangkap tingkah laku itu sebelum ia penting. Pembingkaian itu adalah spekulatif — dorongan pengambilan pekerja menunjukkan kesediaan, bukan bukti bahawa model semasa boleh menghasilkan panduan senjata yang boleh diambil tindakan — tetapi skala keperluan pakar menekankan betapa seriusnya makmal menangani senario itu.
Sebahagian daripada Binaan Keselamatan yang Lebih Besar
Pengambilan pekerja sesuai dengan corak yang telah mentakrifkan industri makmal sempadan selama bertahun-tahun: Syarikat AI merekrut pakar domain yang diiktiraf merentas disiplin akademik untuk menguji model mereka. Apa yang bermula sebagai pasukan pemeriksa fakta subjek untuk latihan model telah semakin berkembang menjadi pasukan penilaian khusus untuk domain berisiko bencana, dengan CBRN antara yang paling sensitif.
Kepimpinan DeepMind sendiri telah membunyikan penggera secara terbuka. Minggu lalu, kepimpinan makmal memberi amaran bahawa percubaan penggodaman yang didayakan AI harus dianggap sebagai "gambar amaran awal" risiko keselamatan yang lebih besar, lapor Reuters, dengan ramalan bahawa AI boleh membolehkan insiden keselamatan besar dalam masa kira-kira dua tahun. Membina pasukan penilaian CBRN ialah versi operasi retorik itu.
Dorongan itu juga tiba di tengah-tengah tempoh perubahan struktur pada operasi AI Google. Pada bulan Ogos, syarikat itu merombak kepimpinan AInya, dengan Reuters dan CNBC melaporkan bahawa perubahan kepimpinan lama telah memindahkan fungsi tanggungjawab - dan The Wall Street Journal secara berasingan melaporkan bahawa Google memindahkan pasukan tanggungjawab AI keluar dari makmal DeepMind sepenuhnya sebagai sebahagian daripada perubahan itu. Bahawa pasukan CBRNE kini berada di dalam organisasi "Pembangunan dan Inovasi Bertanggungjawab" menunjukkan cara peralatan keselamatan telah disusun semula — dan diperluaskan — walaupun laporan mengenai penstrukturan diteruskan.
Subteks Tadbir Urus
Terdapat juga dimensi dasar. Syarikat Frontier AI berada di bawah tekanan yang semakin meningkat daripada kerajaan untuk menunjukkan bahawa mereka boleh mengukur dan mengawal keupayaan paling berbahaya yang mungkin dibangunkan oleh sistem mereka. Penilaian yang boleh dipercayai dalam domain nuklear dan biologi menjadi keperluan de facto untuk kredibiliti makmal - kerja kes keselamatan yang semakin diminta untuk dilihat oleh pengawal selia dan badan pengawasan.
Sehubungan itu, mengupah orang yang telah menghabiskan kerjaya dalam pertubuhan bukan percambahan berfungsi dua tujuan sekaligus: ia membina keupayaan teknikal untuk menjalankan penilaian yang ketat, dan ia meminjam kesahihan institusi daripada dunia kawalan senjata sedia ada.
Penyenaraian kekal terbuka di tapak kerjaya Google. Sama ada peranan memberi isyarat berhati-hati atau kedudukan kompetitif, satu perkara yang jelas: era di mana keselamatan AI adalah tugas untuk generalis telah berakhir.
_Artikel ini adalah berdasarkan pelaporan oleh Dinamik dan Futurisme Pusat Data, dan pada penyenaraian kerja awam Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
