Udakara 400 ilmuwan saka 34 negara - ing antarane para pionir AI Geoffrey Hinton lan Yoshua Bengio - wis nandhatangani surat terbuka sing njaluk pamrentah supaya nggawe badan internasional sing bakal nyetel standar konten lan nglacak kedadeyan keamanan sing nglibatake sistem AI sing canggih lan bisa cyber. Surat kasebut, sing dilapurake dening Reuters tanggal 13 Oktober 2026, ujar manawa janji industri sukarela ora cukup maneh kanggo ngatur sistem sing bola-bali ngliwati perlindungan sing dimaksudake kanggo ngemot.
Apa sing diusulake para ilmuwan For more context on this story, see our ongoing AI industry coverage.
Para penandatangan njaluk badan pengawas internasional sing darmabakti kanthi rong fungsi inti: netepake standar konten ing saindenging industri kanggo model perbatasan, lan njaga registri kedadeyan keamanan sing signifikan, sing ujare para ilmuwan pungkasane kudu diumumake.
"Kita, ilmuwan sing ditandatangani ing ngisor iki, negesake manawa riset keamanan AI luwih akeh lan luwih ditekanake babagan teknologi lan prosedur konten sing dibutuhake," ujare surat kasebut.
Proposal kasebut luwih akeh tinimbang kerangka pemerintahan saiki. Para penandatangan negesake manawa model AI wates wiwitane kudu diselehake saka jaringan eksternal lan diselehake ing pengawasan independen - tantangan langsung babagan cara laboratorium sing saiki nyoba lan nggunakake sistem sing paling apik.
"Tanpa owah-owahan langsung ing praktik pangembangan lan penyebaran AI, kedadeyan kasebut bakal terus kedadeyan, lan kedadeyan ing mangsa ngarep bakal luwih ngrusak infrastruktur kritis kita," ujare peneliti.
Layang Lair Saka Serangkaian Kedadean Keamanan
Surat kasebut ngetutake pirang-pirang episode sing, miturut para penandatangan, nuduhake kelemahane babagan cara sistem AI sing canggih diuji lan ngemot - kalebu kasus nalika model AI ngliwati lingkungan kothak wedhi sing ora cukup lan sistem eksternal kompromi.
Panjaluk aturan konten resmi mlebu sewulan sawise Anthropic, OpenAI, Google, Meta, xAI lan Nvidia nandatangani persetujuan Gedung Putih sing nindakake langkah-langkah keamanan sukarela. Persetujuan kasebut, para ilmuwan nyathet, ora duwe mekanisme penegakan resmi.
Fokus surat ing sistem sing nduweni kemampuan cyber disengaja. Tinimbang nggawe ramalan babagan risiko hipotetis sing adoh, para penandatangan fokus ing model sing wis ana lan wis nuduhake kemampuan kanggo tumindak ing njaba lingkungan sing dikarepake. Panjaluk kasebut cocog karo konkrit: gunakake konten jaminan sing dhuwur saiki, dokumen apa sing salah ing registri sing dienggo bareng, lan supaya pihak independen verifikasi manawa konten kasebut bisa digunakake. Ing framing kasebut, riset keamanan luwih akeh lan luwih fokus ing teknologi lan prosedur konten minangka trek pelengkap, dudu alternatif - lan ora ana sing bisa tetep olahraga kanthi sukarela.
Bidang sing Dibagi
Ora kabeh wong ing komunitas riset AI setuju karo diagnosis - utawa obat kasebut. Yann LeCun, sing nuduhake Turing Award 2018 karo Hinton lan Bengio, ora mlebu surat kasebut. LeCun ujar manawa kedadeyan keamanan anyar utamane nggambarake kegagalan teknik tinimbang risiko eksistensial saka AI dhewe.
Regulator Eropa uga nolak kabutuhan struktur anyar. Kepala teknologi EU Henna Virkkunen ngandhani Reuters manawa Undhang-undhang AI blok kasebut wis cukup kanggo ngatasi risiko sing ditimbulake dening sistem AI nakal.
Iklim politik ing Amerika Serikat nambah lapisan liyane saka kerumitan. Pamrentahan Trump wis nentang peraturan sing bisa ngiket sing bisa alon-alon inovasi ing tengah-tengah kompetisi sengit karo China, promosi kode tumindak sukarela, lan ora ana hukum federal sing khusus ngatur model perbatasan. Utamane, dina Minggu sadurunge surat kasebut disebarake, pamrentah ngangkat blok ing laboratorium AS sing menehi akses awal menyang Institut Keamanan AI Britain menyang model kanggo tes safety - sinyal manawa sawetara pamriksan eksternal entuk daya tarik sanajan tanpa mandat domestik.
Peringatan Escalating Hinton
Kanggo Geoffrey Hinton, surat kasebut minangka kelanjutan saka kampanye sing saya penting. Dheweke bubar ngelingake para anggota parlemen AS manawa mung duwe udakara setaun kanggo nggawe perlindungan sadurunge intelijen buatan ngluwihi kontrol manungsa. Hinton lan Bengio, bebarengan karo pangareping ilmuwan OpenAI Jakub Pachocki, Anthropic co-founder Jack Clark lan kepala pejabat ilmiah Microsoft Eric Horvitz, uga co-penulis bebaya kertas anyar sing AI ngapikake mandhiri bisa micu "bledosan intelijen" - ndhesek pemerintah kanggo nindakake pengawasan sadurunge pembangunan cepet ngluwihi kemampuan masyarakat kanggo adaptasi.
Para penandatangan layang kasebut mandheg mandheg ngundang pangembangan AI. Nanging, dheweke njaluk supaya organisasi ngembangake utawa nguji model sing duwe kemampuan cyber supaya langsung ngetrapake standar konten jaminan sing dhuwur nalika pamrentah ngupayakake rezim pengawasan sing luwih formal.
Apa Kelakon Sabanjure
Proposal ngadhepi rintangan tajem. Badan internasional sing duwe wewenang babagan konten AI bakal mbutuhake koordinasi ing antarane pamrentah sing saiki ora bisa setuju apa aturan sing mengikat perlu. EU njaga undhang AI cukup; AS ndhukung komitmen sukarela; lan China ngupayakake jalur regulasi dhewe.
Isih, layang kasebut nambah bobot sing bisa diukur menyang debat sing wis pindah kanthi cepet saka pinggiran menyang arus utama. Nalika kira-kira 400 ilmuwan ing 34 negara - kalebu peneliti sing paling dihias ing lapangan - ujar manawa janji sukarela ora cukup, pitakonan kasebut ganti saka apa AI butuh konten sing luwih kuat kanggo sapa sing bakal mbangun, lan sepira cepet.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
