Google DeepMind wis ngluncurake lembaga anyar sing darmabakti kanggo nggedhekake obrolan babagan intelijen umum buatan - lan esai perdana kalebu proposal konkrit saka Demis Hassabis kanggo badan pimpinan AS sing bakal ngevaluasi model AI perbatasan sadurunge penyebaran.
Institut DeepMind, diluncurake Rebo dening peneliti Google lan Google DeepMind, nyathet pendiri DeepMind Shane Legg minangka editor pangurus, bebarengan karo eksekutif Google James Manyika lan ketua Google DeepMind Demis Hassabis minangka direktur, miturut TechCrunch. For more context on this story, see our ongoing more AI stories.
Kamar kanggo Ora setuju
Tujuane institut kasebut yaiku kanggo mbedakake ora setuju sing asli - kalebu ing Google dhewe. "Dheweke ora mesthi setuju, lan mesthine bakal ngganti pikirane, amarga luwih akeh data lan informasi katon ing wates sing cepet," ujare pengumuman kasebut.
Koleksi kapisan kalebu papat esai sing nyakup kabijakan ekonomi kanggo ngatur gangguan AGI sing potensial, njaga penalaran model sing bisa diwaca manungsa, prinsip kanggo ngrembaka manungsa, lan kerangka kanggo ngevaluasi model AI perbatasan.
Institusionalisasi perselisihan terbuka minangka langkah sing ora biasa kanggo lab AI perusahaan, ing ngendi olahpesen umum cenderung dikontrol kanthi ketat. Miturut rancangan, institut kasebut menehi papan kanggo para peneliti Google kanggo mbantah posisi sing bisa bentrok karo kepentingan komersial perusahaan - utawa karo siji liyane.
Esai Transparansi: Nonton 'Kedalaman Serial Opaque'
Salah siji saka patang esai, dening peneliti safety DeepMind Rohin Shah lan Anca Dragan, udur yen jendhela shrinking AI saka transparansi - kemampuan kanggo ndeleng lan mriksa pertimbangan langkah-langkah dening model - ora ono, malah minangka arsitektur anyar nggawe model paling kuat harder kanggo ngawasi.
Penulis ujar manawa para pangembang lan regulator kudu ngadhepi perdagangan safety langsung. Secara konkrit, bisa uga tegese mbatesi apa sing diarani "ambane serial opaque" - jumlah komputasi urutan model sing bisa ditindakake tanpa ngasilake jejak penalaran sing bisa diwaca - utawa mbutuhake pangembang kanggo nduduhake manawa sistem sing kurang transparan tetep bisa dipantau kaya sing bisa diinterpretasikake.
Proposal kasebut kacathet amarga nganggep mundhut interpretasi minangka pilihan desain lan kabijakan tinimbang konsekuensi skala sing ora bisa dihindari, mbukak lawang kanggo syarat sing bisa ditulis ing regulasi.
Usulan Hassabis: Badan Standar Perbatasan AS
Esai sing paling penting yaiku Hassabis. Dheweke ngusulake badan standar AI perbatasan sing dipimpin AS sing ditugasake kanggo ngevaluasi model AI sing paling maju. Ing kerangka kasebut, pangembang bakal ngirim model kanthi sukarela kanggo ditinjau nganti 30 dina sadurunge dirilis. Sawise sistem evaluasi wis kabukten efektif, lulus tes bisa dadi syarat kanggo nyebarake model perbatasan ing Amerika Serikat.
Badan kasebut bakal diwiwiti kanthi ngrancang pambiji kanthi konsultasi karo perusahaan AI, nanging pungkasane bakal nggawe evaluasi mandiri, sing ora dingerteni - apa sing diarani esai "tes" - kanggo nyegah laboratorium nyesuaikan model kasebut menyang benchmark sing dikenal, mode kegagalan sing didokumentasikake saka rezim evaluasi umum.
Hassabis uga mbukak lawang kanggo eskalasi: kerangka kasebut bisa "digedhekake yen kahanan serius nuntut," bisa uga kalebu kalem sing terkoordinasi ing antarane pangembang AI perbatasan.
Apa Loro Essay Liyane Matter
Loro esai sing isih ana - babagan kabijakan ekonomi kanggo ngatur gangguan AGI lan prinsip kanggo ngrembakakake manungsa - ngrampungake koleksi sing nganggep AGI minangka masalah masyarakat tinimbang masalah teknis. Pamindahan ekonomi wis suwe dadi keprihatinan umum sing paling nyata ing babagan AI sing maju, lan nggawe bingkai kasebut bebarengan karo kabijakan evaluasi lan interpretasi nuduhake manawa lembaga kasebut pengin para pembuat kebijakan ndeleng potongan kasebut minangka salah sawijining agenda tinimbang debat sing kapisah.
Jembar kasebut uga minangka sinyal babagan posisi Google. Perusahaan kasebut saingan kanggo pelanggan perusahaan lan kontrak pemerintah nalika bebarengan mbantah manawa sistem perbatasan mbutuhake pengawasan ing njaba. Nerbitake tension, tinimbang ngalusake, minangka premis inti institute.
Saka Prihatin kanggo Proposal Konkret
Esai kasebut teka nalika debat keamanan industri pindhah saka pratelan babagan keprihatinan menyang mekanisme tartamtu: syarat pambocoran, pengawasan njaba, lan - yen proteksi mundur - kalem sing terkoordinasi. Pergeseran kasebut nyepetake minggu iki amarga pimpinan industri nyetujoni unsur-unsur saka telpon CEO Anthropic Dario Amodei kanggo "nyepetake" pangembangan AI perbatasan, saben TechCrunch.
Wektu iku penting. Pamrentah ing loro-lorone Atlantik nimbang carane ngawasi sistem sing kemampuane luwih cepet tinimbang infrastruktur evaluasi. Proposal sing asale saka lab AI sing unggul - lan kalebu review pra-rilis karo untu - menehi pembuat kebijakan cithakan sing disetujoni dening industri kasebut, sing sacara historis dadi prasyarat kanggo regulasi AI sing migunani.
Apa kanggo Watch
Kamardikan editor institut saka Google bakal dadi tes pisanan. Yen esai terus nyakup posisi sing ora cocog karo peta dalan komersial Google - kaya sing bisa ditindakake esai transparansi - papan kasebut bisa dadi kontributor serius kanggo debat kebijakan AGI. Yen mabur menyang olahpesen perusahaan, bakal dadi saluran PR maneh ing lapangan sing rame.
Ing endi wae, zat kasebut ana ing meja saiki: syarat evaluasi pra-rilis, tes sing ditindakake, lan malah kalem sing terkoordinasi lagi dibantah sacara umum dening salah sawijining tokoh paling kuat ing AI. Pitakonan ora ana maneh apa model perbatasan kudu dievaluasi kanthi mandiri, nanging sapa sing ngevaluasi - lan apa jadwale.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
