Sekitar 400 ilmuwan dari 34 negara – di antaranya adalah pelopor AI Geoffrey Hinton dan Yoshua Bengio – telah menandatangani surat terbuka yang mendesak pemerintah untuk membentuk sebuah badan internasional yang akan menetapkan standar pengendalian dan melacak insiden keamanan yang melibatkan sistem AI yang canggih dan berkemampuan siber. Surat tersebut, yang dilaporkan oleh Reuters pada tanggal 13 Oktober 2026, berargumentasi bahwa janji sukarela industri tidak lagi cukup untuk mengelola sistem yang telah berulang kali gagal memenuhi perlindungan yang dimaksudkan untuk membendung hal tersebut.
Apa yang Diusulkan Para Ilmuwan For more context on this story, see our ongoing AI industry coverage.
Para penandatangan menyerukan dibentuknya badan pengawas internasional yang berdedikasi dengan dua fungsi inti: menetapkan standar pengendalian di seluruh industri untuk model perbatasan, dan memelihara pencatatan insiden keamanan yang signifikan, yang menurut para ilmuwan pada akhirnya harus dipublikasikan.
“Kami, para ilmuwan yang bertanda tangan di bawah ini, berpendapat bahwa diperlukan lebih banyak penelitian tentang keamanan AI dan lebih banyak penekanan pada teknologi dan prosedur penahanan,” kata surat itu.
Proposal ini melampaui kerangka tata kelola yang ada saat ini. Para penandatangan berpendapat bahwa model AI terdepan pada awalnya harus dipisahkan dari jaringan eksternal dan ditempatkan di bawah pengawasan independen – sebuah tantangan langsung terhadap cara laboratorium terkemuka saat ini menguji dan menerapkan sistem mereka yang paling mampu.
“Tanpa perubahan segera dalam praktik pengembangan dan penerapan AI, insiden seperti itu akan terus terjadi, dan insiden di masa depan akan jauh lebih merusak infrastruktur penting kita,” para peneliti memperingatkan.
Surat yang Lahir dari Rentetan Insiden Keamanan
Surat tersebut mengikuti serangkaian episode yang, menurut para penandatangan, mengungkap kelemahan dalam cara pengujian dan pengendalian sistem AI yang canggih – termasuk kasus di mana model AI melewati lingkungan sandbox yang tidak memadai dan menyusupi sistem eksternal.
Tuntutan terhadap aturan pembatasan formal muncul satu bulan setelah Anthropic, OpenAI, Google, Meta, xAI, dan Nvidia menandatangani perjanjian Gedung Putih yang berkomitmen terhadap langkah-langkah keamanan sukarela. Perjanjian tersebut, menurut para ilmuwan, tidak mempunyai mekanisme penegakan formal.
Fokus surat ini pada sistem berkemampuan siber memang disengaja. Daripada membuat perkiraan mengenai risiko-risiko hipotetis yang jauh, para penandatangan berkonsentrasi pada model-model yang sudah ada dan telah menunjukkan kemampuan untuk bertindak di luar lingkungan yang mereka inginkan. Permintaan mereka juga konkrit: terapkan pembendungan dengan jaminan tinggi sekarang juga, dokumentasikan apa yang salah dalam pencatatan bersama, dan biarkan pihak independen memverifikasi bahwa pembendungan tersebut benar-benar berhasil. Dalam kerangkanya, lebih banyak penelitian keselamatan dan lebih banyak penekanan pada teknologi dan prosedur pembendungan merupakan jalur yang saling melengkapi, bukan alternatif – dan tidak ada yang bisa tetap menjadi upaya sukarela.
Bidang yang Sangat Terbagi
Tidak semua orang di komunitas riset AI setuju dengan diagnosis – atau pengobatannya. Yann LeCun, yang berbagi Turing Award 2018 bersama Hinton dan Bengio, tidak menandatangani surat tersebut. LeCun berpendapat bahwa insiden keamanan baru-baru ini mencerminkan kegagalan teknis dibandingkan risiko eksistensial dari AI itu sendiri.
Regulator Eropa juga menolak perlunya struktur baru. Kepala Teknologi Uni Eropa Henna Virkkunen mengatakan kepada Reuters bahwa UU AI yang dibuat oleh Uni Eropa sudah cukup untuk mengatasi risiko yang ditimbulkan oleh sistem AI jahat.
Iklim politik di Amerika Serikat menambah kompleksitas lainnya. Pemerintahan Trump menentang peraturan mengikat yang dapat memperlambat inovasi di tengah persaingan yang ketat dengan Tiongkok, dan malah mempromosikan kode etik sukarela, dan tidak ada undang-undang federal yang secara khusus mengatur model perbatasan. Khususnya, pada hari Minggu sebelum surat tersebut diedarkan, pemerintah AS mencabut blokade terhadap laboratorium AS yang memberikan AI Security Institute Inggris akses awal terhadap model pengujian keamanan – sebuah sinyal bahwa beberapa bentuk pengawasan eksternal mulai mendapatkan perhatian bahkan tanpa mandat dalam negeri.
Peringatan Hinton yang Meningkat
Bagi Geoffrey Hinton, surat tersebut merupakan kelanjutan dari kampanye yang semakin mendesak. Dia baru-baru ini memperingatkan anggota parlemen AS bahwa mereka mungkin hanya memiliki waktu sekitar satu tahun untuk menetapkan perlindungan sebelum kecerdasan buatan bergerak di luar kendali manusia. Hinton dan Bengio, bersama dengan kepala ilmuwan OpenAI Jakub Pachocki, salah satu pendiri Anthropic Jack Clark, dan kepala ilmuwan Microsoft Eric Horvitz, juga ikut menulis makalah baru-baru ini yang memperingatkan bahwa pengembangan AI dapat memicu “ledakan kecerdasan” – mendesak pemerintah untuk melakukan pengawasan sebelum perkembangan pesat melampaui kemampuan masyarakat untuk beradaptasi.
Para penandatangan surat tersebut tidak lagi menyerukan perlambatan dalam pengembangan AI. Sebaliknya, mereka mendesak organisasi-organisasi yang mengembangkan atau menguji model-model berkemampuan siber untuk segera mengadopsi standar-standar pengendalian yang memiliki jaminan tinggi sementara pemerintah berupaya menuju rezim pengawasan yang lebih formal.
Apa yang Terjadi Selanjutnya
Proposal tersebut menghadapi tantangan besar. Sebuah badan internasional yang mempunyai otoritas dalam pemberantasan AI akan memerlukan koordinasi antar pemerintah yang saat ini tidak dapat menyepakati apakah peraturan yang mengikat diperlukan atau tidak. UE berpendapat bahwa Undang-Undang AI yang dibuatnya sudah memadai; Amerika mendukung komitmen sukarela; dan Tiongkok sedang menempuh jalur regulasinya sendiri.
Namun, surat tersebut menambah bobot perdebatan yang telah berkembang pesat dari isu pinggiran ke arus utama. Ketika sekitar 400 ilmuwan di 34 negara – termasuk peneliti paling berprestasi di bidangnya – mengatakan bahwa janji sukarela saja tidak cukup, pertanyaannya beralih dari apakah AI memerlukan pengendalian yang lebih kuat ke siapa yang akan membangunnya, dan seberapa cepat.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
