Google DeepMind mempekerjakan tim spesialis nuklir untuk mengevaluasi apakah model AI terdepan dapat membantu pengembangan senjata nuklir, menurut daftar pekerjaan yang pertama kali dilaporkan oleh publikasi industri Data Center Dynamics dan diliput minggu ini oleh Futurism.
Daftar tersebut, yang diposting di situs karir Google, mencari "fisikawan dan insinyur nuklir berkualifikasi tinggi" untuk peran ahli materi nuklir di tim Kimia, Biologi, Radiologi, Nuklir, dan Bahan Peledak Hasil Tinggi (CBRNE), yang berada dalam organisasi Pengembangan Bertanggung Jawab dan Inovasi DeepMind. For more context on this story, see our ongoing AI news.
Apa yang Sebenarnya Diminta dari Pekerjaan
Batas minimumnya curam. Kandidat membutuhkan gelar PhD di bidang seperti fisika plasma atau teknik nuklir – atau “pengalaman praktis yang setara” – ditambah rekam jejak berkolaborasi dengan laboratorium pemerintah AS dan memahami bidang kebijakan termasuk pengelolaan persediaan, nonproliferasi, pengendalian senjata, atau pengurangan ancaman.
Kualifikasi yang diutamakan mencapai lebih jauh lagi: pengalaman dalam keselamatan AI, keahlian pemodelan komputasi, waktu yang dihabiskan bekerja di fasilitas pengguna laser utama, dan kemampuan untuk merancang evaluasi keselamatan yang “terbukti tidak terklasifikasi dan tidak dapat dikendalikan oleh ekspor dengan mengembangkan proksi sains penggunaan ganda untuk topik senjata.”
Kompensasi sesuai dengan persyaratan spesialis. Google mencantumkan kisaran gaji $174.000 hingga $252.000, dengan bonus 15% di atasnya.
Mengapa Lab AI Membutuhkan Ahli Senjata
Tanggung jawab utamanya adalah mengevaluasi keamanan model AI terdepan dalam domain nuklir. Daftar tersebut menggambarkan pekerjaan tersebut sebagai penilaian "bantuan model dalam fisi, fusi, dan proliferasi senjata termonuklir, hidrodinamika radiasi, magnetohidrodinamika, dll. dengan cara yang terbukti tidak terklasifikasi dan tidak terkendali ekspor."
Diterjemahkan dari bahasa lowongan kerja: DeepMind menginginkan ahli yang dapat menentukan apakah modelnya mampu memberikan bantuan yang berarti dalam pengembangan senjata nuklir — dan melakukannya tanpa evaluasi itu sendiri melewati batas klasifikasi. Referensi pada "proksi sains penggunaan ganda" menunjukkan pengujian yang dibangun berdasarkan masalah ilmiah yang berdekatan, seperti hidrodinamika radiasi, yang mewakili pertanyaan khusus senjata yang tidak boleh dijawab oleh model.
Nama domain fisika dalam daftar ini tidak sembarangan. Hidrodinamika radiasi dan magnetohidrodinamika menggambarkan bagaimana energi dan plasma berperilaku dalam kondisi ekstrem yang relevan dengan fisika senjata nuklir. Itulah sebabnya keduanya juga merupakan topik sensitif: kompetensi di bidang tersebut merupakan dasar perancangan hulu ledak, namun ilmu pengetahuan yang mendasarinya juga dipublikasikan secara terbuka dalam penelitian fusi dan astrofisika. Membangun pertanyaan evaluasi berdasarkan “proksi” tersebut memungkinkan tim keselamatan mengukur apakah suatu model dapat menavigasi pengetahuan batas tersebut tanpa evaluasi itu sendiri menjadi risiko proliferasi.
Pemahaman Futurisme terhadap daftar tersebut sangat blak-blakan: hal ini menunjukkan bahwa laboratorium penelitian AI terkemuka di Google mengharapkan model-modelnya pada akhirnya akan menghadapi pertanyaan-pertanyaan yang berkaitan dengan konten nuklir yang sebenarnya, dan mempekerjakan keahlian yang diperlukan untuk menangkap perilaku tersebut sebelum menjadi penting. Pembingkaian tersebut bersifat spekulatif – dorongan perekrutan menunjukkan kesiapan, bukan bukti bahwa model saat ini dapat menghasilkan panduan senjata yang dapat ditindaklanjuti – namun skala persyaratan spesialis menggarisbawahi betapa seriusnya laboratorium menangani skenario tersebut.
Bagian dari Pembangunan Keamanan yang Lebih Besar
Perekrutan ini sesuai dengan pola yang telah mendefinisikan industri laboratorium terdepan selama bertahun-tahun: perusahaan AI merekrut pakar domain yang memiliki kredensial di berbagai disiplin ilmu untuk menguji model mereka. Apa yang awalnya merupakan pasukan pemeriksa fakta untuk pelatihan model kini semakin berkembang menjadi tim evaluasi khusus untuk bidang-bidang yang berisiko bencana, dan CBRN merupakan salah satu tim yang paling sensitif.
Kepemimpinan DeepMind sendiri telah menyuarakan peringatan tersebut secara terbuka. Pekan lalu, pimpinan laboratorium tersebut memperingatkan bahwa upaya peretasan yang didukung AI harus dianggap sebagai “peringatan awal” terhadap risiko keamanan yang lebih besar, menurut laporan Reuters, dengan prediksi bahwa AI dapat memicu terjadinya insiden keamanan besar dalam waktu sekitar dua tahun. Membangun tim evaluasi CBRN adalah versi operasional dari retorika tersebut.
Dorongan ini juga terjadi di tengah periode perubahan struktural pada operasi AI Google. Pada bulan Agustus, perusahaan tersebut merombak kepemimpinan AI-nya, dengan Reuters dan CNBC melaporkan bahwa perubahan kepemimpinan yang telah lama terjadi telah mengubah fungsi tanggung jawab – dan The Wall Street Journal secara terpisah melaporkan bahwa Google merelokasi tim tanggung jawab AI dari laboratorium DeepMind sepenuhnya sebagai bagian dari perombakan tersebut. Fakta bahwa tim CBRNE kini duduk di dalam organisasi "Pembangunan dan Inovasi yang Bertanggung Jawab" menunjukkan bagaimana peralatan keselamatan telah diorganisasi ulang - dan diperluas - bahkan ketika pelaporan mengenai restrukturisasi terus berlanjut.
Subteks Tata Kelola
Ada juga dimensi kebijakan. Perusahaan-perusahaan AI Frontier berada di bawah tekanan yang semakin besar dari pemerintah untuk menunjukkan bahwa mereka dapat mengukur dan mengendalikan kemampuan paling berbahaya yang mungkin dikembangkan oleh sistem mereka. Evaluasi yang kredibel dalam bidang nuklir dan biologi menjadi persyaratan de facto untuk kredibilitas laboratorium – hal ini merupakan hal yang semakin dituntut oleh regulator dan badan pengawas.
Oleh karena itu, mempekerjakan orang-orang yang pernah berkarir di lembaga nonproliferasi mempunyai dua tujuan sekaligus: membangun kemampuan teknis untuk melakukan evaluasi yang ketat, dan meminjam legitimasi kelembagaan dari dunia pengendalian senjata yang ada.
Daftarnya tetap terbuka di situs karier Google. Apakah peran tersebut menandakan kehati-hatian atau posisi kompetitif, satu hal yang jelas: era di mana keselamatan AI hanya menjadi pekerjaan bagi para generalis telah berakhir.
_Artikel ini didasarkan pada pelaporan oleh Data Center Dynamics and Futurism, dan pada daftar pekerjaan publik Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
