Google DeepMind nyewa tim spesialis nuklir kanggo ngevaluasi manawa model AI perbatasan bisa mbantu pangembangan senjata nuklir, miturut dhaptar proyek sing pisanan dilaporake dening publikasi industri Dinamika Pusat Data lan ditutup minggu iki dening Futurisme.
Dhaptar kasebut, sing dikirim ing situs karir Google, golek "fisikawan lan insinyur nuklir sing mumpuni" kanggo peran pakar materi nuklir ing tim Bahan Peledak Kimia, Biologi, Radiologi, Nuklir, lan Hasil Tinggi (CBRNE), sing ana ing organisasi Pengembangan lan Inovasi sing Tanggung Jawab DeepMind. For more context on this story, see our ongoing more AI stories.
Apa Sing Dijaluk Sejatine Proyek
Bar minimal iku tajem. Calon butuh gelar PhD ing bidang kayata fisika plasma utawa teknik nuklir - utawa "pengalaman praktis sing padha" - ditambah karo rekaman trek kolaborasi karo laboratorium pemerintah AS lan akrab karo wilayah kebijakan kalebu stewardship stockpile, nonproliferasi, kontrol senjata, utawa pengurangan ancaman.
Kualifikasi sing luwih disenengi luwih akeh: pengalaman ing safety AI, keahlian model komputasi, wektu sing digunakake ing fasilitas pangguna laser utama, lan kemampuan kanggo ngrancang evaluasi safety sing "bukti ora diklasifikasikake lan ora diekspor dikontrol kanthi ngembangake proksi ilmu pengetahuan dual kanggo topik senjata."
Kompensasi selaras karo syarat spesialis. Google nyathet sawetara gaji $ 174,000 nganti $ 252,000, kanthi bonus 15% ing ndhuwur.
Napa Lab AI Mbutuhake Pakar Senjata
Tanggung jawab inti yaiku ngevaluasi keamanan model AI perbatasan ing domain nuklir. Dhaptar kasebut nggambarake karya kasebut minangka pambiji "bantuan model ing fisi, fusi, lan proliferasi senjata termonuklir, hidrodinamika radiasi, magnetohidrodinamika, lan liya-liyane kanthi cara sing ora diklasifikasikake lan ora dikontrol ekspor."
Diterjemahake saka basa kiriman proyek: DeepMind pengin ahli sing bisa nemtokake manawa model kasebut bisa menehi pitulung sing migunani babagan pangembangan senjata nuklir - lan nindakake tanpa evaluasi dhewe ngliwati garis klasifikasi. Referensi kanggo "proksi ilmu pengetahuan dual" nyaranake tes sing dibangun ing masalah ilmiah sing cedhak, kayata hidrodinamika radiasi, sing cocog karo pitakonan khusus senjata sing ora kudu dijawab model.
Domain fisika sing dijenengi ing daftar kasebut ora sembarangan. Radiasi hidrodinamika lan magnetohydrodynamics njlèntrèhaké carane energi lan plasma tumindak ing kahanan nemen cocog kanggo fisika senjata nuklir, sing sabenere kok padha pindho topik sensitif: kompetensi ing lapangan iku dhasar kanggo desain warhead, nanging èlmu sing ndasari uga diterbitake kabuka ing riset fusi lan astrofisika. Mbangun pitakonan evaluasi babagan "proksi" kasebut ngidini tim safety ngukur apa model bisa navigasi kawruh wates kasebut tanpa evaluasi dhewe dadi risiko proliferasi.
Wacan Futurisme babagan dhaptar kasebut ora jelas: nuduhake lab riset AI ndhuwur Google ngarepake modele bakal ngadhepi pitakonan babagan konten nuklir nyata, lan nyewa keahlian sing dibutuhake kanggo nyekel prilaku kasebut sadurunge penting. Framing kasebut spekulatif - push nyewa nuduhake kesiapan, dudu bukti yen model saiki bisa ngasilake panuntun senjata sing bisa ditindakake - nanging ukuran syarat spesialis nandheske carane serius laboratorium nganggep skenario kasebut.
Bagéyan saka Buildout Safety luwih gedhe
Penggajian kasebut cocog karo pola sing wis ditetepake ing industri lab perbatasan sajrone pirang-pirang taun: Perusahaan AI merekrut ahli domain sing dipercaya ing disiplin akademik kanggo nguji modele. Sing diwiwiti minangka tentara pemeriksa fakta subyek kanggo latihan model saya suwe saya berkembang dadi tim evaluasi khusus kanggo domain beresiko bencana, kanthi CBRN ing antarane sing paling sensitif.
Kepemimpinan DeepMind dhewe wis muni weker ing publik. Minggu kepungkur, pimpinan lab kasebut ngelingake manawa upaya peretasan sing didhukung AI kudu dianggep minangka "tembakan peringatan awal" babagan risiko keamanan sing luwih gedhe, lapor Reuters, kanthi prediksi yen AI bisa ngaktifake kedadeyan keamanan utama sajrone kira-kira rong taun. Nggawe tim evaluasi CBRN minangka versi operasional saka retorika kasebut.
Push kasebut uga teka ing tengah-tengah owah-owahan struktural ing operasi AI Google. Ing wulan Agustus, perusahaan kasebut ngowahi kepemimpinan AI, kanthi Reuters lan CNBC nglaporake manawa owah-owahan kepemimpinan sing wis suwe mindhah fungsi tanggung jawab - lan The Wall Street Journal kanthi kapisah nglaporake manawa Google mindhah tim tanggung jawab AI metu saka lab DeepMind kabeh minangka bagian saka goyang-goyang kasebut. Tim CBRNE saiki lenggah ing organisasi "Pengembangan lan Inovasi sing Tanggung Jawab" nuduhake kepiye piranti safety wis diatur maneh - lan ditambahi - sanajan laporan babagan restrukturisasi terus.
Subteks Pamrentahan
Ana uga dimensi kebijakan. Perusahaan Frontier AI ngalami tekanan saka pamrentah kanggo nuduhake manawa bisa ngukur lan ngontrol kemampuan sing paling mbebayani sing bisa dikembangake dening sistem. Evaluasi sing bisa dipercaya ing domain nuklir lan biologi dadi syarat de facto kanggo kredibilitas lab - pakaryan kasus keamanan sing dijaluk dening regulator lan badan pengawas.
Ing cahya kasebut, nyewa wong sing wis ngentekake karir ing panyiapan nonproliferasi nyedhiyakake rong tujuan bebarengan: mbangun kemampuan teknis kanggo nglakokake evaluasi sing ketat, lan nyilih legitimasi institusional saka donya kontrol senjata sing ana.
Dhaptar tetep mbukak ing situs karir Google. Apa peran kasebut menehi tandha ati-ati utawa posisi sing kompetitif, siji perkara sing jelas: jaman nalika safety AI minangka pakaryan kanggo para umum wis rampung.
_Artikel iki adhedhasar laporan dening Data Center Dynamics and Futurism, lan ing dhaptar proyek umum Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
