CEO Google DeepMind Demis Hassabis wis ngusulake nggawe badan standar sing dipimpin AS sing dimodelake miturut Otoritas Regulasi Industri Keuangan (FINRA) kanggo ngevaluasi lan ngatur model AI perbatasan sadurunge diluncurake ing publik, ngelingake manawa manungsa duwe "jendela sing larang regane" kanggo njamin intelijen umum buatan dikembangake kanthi aman.
Ing dokumen kerangka kanthi irah-irahan "A Framework for Frontier AI and the Dawning of a New Age," diterbitake ing X nalika Selasa esuk, Hassabis nggawe proposal rinci babagan carane Amerika Serikat bisa nggawe infrastruktur peraturan sing bisa dipercaya kanggo sistem AI sing paling kuat. Rencana kasebut mbutuhake organisasi anyar sing bakal nyoba model perbatasan lan ngembangake praktik paling apik kanggo penyebaran - didanai dening industri AI nanging dioperasikake kanthi mandiri saka perusahaan siji.
Kanggo kabar AI paling anyar lan analisis kabijakan sing jero, AI Buzz Wire nglacak perkembangan sing mbentuk industri kasebut.
Kepiye Badan Standar sing Diusulake
Ing proposal Hassabis, laboratorium AI bakal kanthi sukarela nuduhake model perbatasan karo badan standar kanggo ditinjau nganti 30 dina sadurunge diluncurake. Evaluasi pra-penyebaran iki bakal ngevaluasi model kanggo safety, keamanan, lan risiko penyalahgunaan potensial. Sawise protokol pambiji wis kabukten efektif lan kuat, kerangka kasebut nggambarake proses formalisasi supaya model perbatasan kudu ditindakake sadurunge disebarake ing pasar AS.
Proposal kasebut langsung ngrampungake celah sing dideleng dening pamrentah anyar babagan sistem AI perbatasan. Sadurunge taun iki, pamrentah AS nganakake tinjauan keamanan ad hoc model Mythos Anthropic lan model Sol OpenAI sadurunge dirilis. Tinjauan kasebut narik kritik sing signifikan amarga kurang ambane teknis lan kanggo nggawe keputusan sing ora jelas babagan nalika model dianggep cukup aman kanggo penyebaran umum.
Ing kerangka kerja Hassabis, keputusan kasebut bakal ditangani dening organisasi khusus sing duwe pakar teknis, didhukung dening pamrentah AS nanging terisolasi saka tekanan politik. Labs uga diwajibake nggarap badan standar kanggo ngatasi kerentanan kritis sing ditemokake sawise diluncurake.
'Jendela Berharga' Sadurunge AGI
Ing wawancara karo Axios, CNBC, lan The Economist sing ngiringi rilis kerangka kerja kasebut, Hassabis negesake manawa wayahe saiki nggambarake kesempatan sing sempit kanggo netepake mekanisme pamrentah sadurunge intelijen umum buatan teka. Dheweke nggambarake wektu iki minangka "jendela sing larang regane" - nuduhake yen jendhela ora bakal mbukak tanpa wates.
Hassabis wis suwe dadi advokat kanggo pamrentah AI sing proaktif. Kerangka kerjane teka ing tengah-tengah debat babagan apa Amerika Serikat kudu nggawe regulator AI resmi, lan yen ya, bentuk apa sing kudu ditindakake. Model FINRA misuwur amarga organisasi pangaturan mandiri industri finansial didanai dening perusahaan anggota nanging beroperasi ing pengawasan pemerintah, menehi keahlian industri lan akuntabilitas publik.
Resistance saka Administrasi Trump
Proposal kasebut ngadhepi masalah politik sing signifikan. Administrasi Trump wis menehi tandha skeptisisme sing jero kanggo nggawe badan pangaturan anyar kanggo intelijen buatan. Penasihat AI Gedung Putih lan mitra umum a16z Sriram Krishnan - sing wis ninggalake peran - kanthi umum nolak ide regulator AI ing cabang eksekutif, kanthi terang-terangan nyatakake "ora bakal ana FDA kanggo AI."
Sikap kasebut ndadekake pejabat administrasi ora setuju karo sawetara pimpinan industri sing paling penting. Nalika perusahaan kaya Anthropic lan OpenAI wis nyengkuyung tes safety pra-penyebaran, mekanisme lan wewenang kanggo tes kasebut tetep dibantah. Proposal Hassabis nyoba nglebokake jarum iki kanthi posisi badan standar minangka didanai industri lan sukarela ing wiwitan, kanthi formalisasi mung sawise proses kasebut mbuktekake regane.
Mbangun Upaya sing Wis Ana
Framework ora diwiwiti saka awal. Iki adhedhasar komitmen sukarela sing wis ditindakake sawetara perusahaan AI perbatasan babagan tes safety lan tim abang. Iki uga njupuk upaya internasional, kalebu Institut Keamanan AI Inggris lan Proses AI Hiroshima G7, sing wis nggawe kerangka kerja awal kanggo ngevaluasi model canggih.
Nanging, usulan Hassabis luwih maju kanthi nyebutake organisasi permanen sing duwe sumber daya kanthi mandat kanggo nguji saben model perbatasan sadurunge diluncurake - tingkat pengawasan sing ora diwenehake dening badan saiki. Analogi FINRA nyaranake operasi skala profesional kanthi atusan ahli teknis, dudu panel penasehat cilik.
Proposal kasebut uga mbahas pemantauan pasca penyebaran, sing mbutuhake laboratorium kanggo nggarap badan standar babagan kerentanan sing ditemokake sawise model kasedhiya kanggo umum. Iki nuduhake akeh pangenalan yen risiko safety ora mungkasi nalika diluncurake, kaya sing dituduhake dening jailbreak lan kasus penyalahgunaan sing muncul sawise sawetara rilis model profil dhuwur.
Tanggapan Industri lan Langkah Sabanjure
Kerangka kasebut wis narik kawigaten ing komunitas kabijakan AI. Panyengkuyung mbantah manawa rezim tes pra-penyebaran sing bisa dipercaya bisa mbangun kapercayan umum ing model perbatasan lan nyuda risiko penyalahgunaan bencana. Kritikus, kalebu sawetara panyengkuyung pasar bebas, ngelingake manawa syarat uji coba wajib bisa ngganggu pendhudhuk gedhe kanthi nggawe alangan peraturan kanggo perusahaan cilik lan pangembang sumber terbuka.
Proposal Hassabis ora nemtokake model endi sing bakal dadi "tapel wates" - pitakonan ambang sing bakal nemtokake ruang lingkup rezim regulasi ing mangsa ngarep. Iki uga mbukak carane badan standar bakal nangani aplikasi sing diklasifikasikake utawa nggunakake dual, utamane amarga keprihatinan anyar babagan model AI sing digunakake kanggo ngrusak sistem AS sing diklasifikasikake.
Wektu proposal kasebut disengaja. Kanthi AGI katon luwih masuk akal sajrone sawetara taun sabanjure, Hassabis negesake manawa prasarana pamrentah kudu dibangun saiki, ora sawise kapabilitas mbebayani muncul. Apa Washington bakal tumindak miturut telpon kasebut isih kudu dideleng.
Tetep Ahead saka AI
Kanggo jangkoan lengkap babagan kabijakan, peraturan, lan perkembangan industri AI, bukak AI Buzz Wire.
Waca liyane warta AI →
