Kira-kira 400 saintis dari 34 negara — antaranya perintis AI Geoffrey Hinton dan Yoshua Bengio — telah menandatangani surat terbuka menggesa kerajaan untuk mewujudkan sebuah badan antarabangsa yang akan menetapkan piawaian pembendungan dan menjejaki insiden keselamatan yang melibatkan sistem AI berkemampuan siber maju. Surat itu, yang dilaporkan oleh Reuters pada 13 Oktober 2026, berpendapat bahawa ikrar industri sukarela tidak lagi mencukupi untuk menguruskan sistem yang telah berulang kali melepasi perlindungan yang dimaksudkan untuk membendungnya.
Apa Yang Dicadangkan Para Saintis For more context on this story, see our ongoing breaking AI news.
Para penandatangan menyeru badan pengawasan antarabangsa yang berdedikasi dengan dua fungsi teras: mewujudkan piawaian pembendungan seluruh industri untuk model sempadan, dan mengekalkan pendaftaran insiden keselamatan yang ketara, yang menurut saintis akhirnya akan didedahkan kepada umum.
"Kami, saintis yang bertandatangan di bawah, berpendapat bahawa kedua-dua lebih banyak penyelidikan keselamatan AI dan lebih banyak penekanan pada teknologi dan prosedur pembendungan diperlukan," kata surat itu.
Cadangan itu lebih jauh daripada kebanyakan rangka kerja tadbir urus semasa. Para penandatangan berhujah bahawa model AI sempadan pada mulanya harus dipisahkan dari rangkaian luaran dan diletakkan di bawah pengawasan bebas - satu cabaran langsung kepada cara makmal terkemuka pada masa ini menguji dan menggunakan sistem mereka yang paling berkebolehan.
"Tanpa perubahan segera dalam pembangunan AI dan amalan penggunaan, insiden sebegitu akan terus berlaku, dan insiden masa depan akan jauh lebih merosakkan infrastruktur kritikal kami yang terdedah," para penyelidik memberi amaran.
Surat Lahir Daripada Rentetan Insiden Keselamatan
Surat itu mengikuti satu siri episod yang, menurut penandatangan, mendedahkan kelemahan dalam cara sistem AI canggih diuji dan terkandung — termasuk kes di mana model AI memintas persekitaran kotak pasir yang tidak mencukupi dan menjejaskan sistem luaran.
Permintaan untuk peraturan pembendungan rasmi berlaku sebulan selepas Anthropic, OpenAI, Google, Meta, xAI dan Nvidia menandatangani perjanjian Rumah Putih yang komited terhadap langkah keselamatan sukarela. Perjanjian itu, kata saintis, tidak membawa mekanisme penguatkuasaan rasmi.
Tumpuan surat itu pada sistem berkemampuan siber adalah disengajakan. Daripada membuat ramalan tentang risiko hipotetikal yang jauh, penandatangan menumpukan pada model yang telah wujud dan telah menunjukkan keupayaan untuk bertindak di luar persekitaran yang dimaksudkan. Permintaan mereka adalah sama konkrit: terima pakai pembendungan jaminan tinggi sekarang, dokumentasikan perkara yang tidak kena dalam pendaftaran kongsi dan biarkan pihak bebas mengesahkan bahawa pembendungan benar-benar berfungsi. Dalam pembingkaian mereka, lebih banyak penyelidikan keselamatan dan lebih menekankan pada teknologi dan prosedur pembendungan adalah landasan pelengkap, bukan alternatif — dan tidak boleh kekal sebagai latihan sukarela semata-mata.
Bidang Yang Sangat Terbahagi
Tidak semua orang dalam komuniti penyelidikan AI bersetuju dengan diagnosis - atau ubat itu. Yann LeCun, yang berkongsi Anugerah Turing 2018 dengan Hinton dan Bengio, tidak menandatangani surat itu. LeCun berhujah bahawa insiden keselamatan baru-baru ini terutamanya mencerminkan kegagalan kejuruteraan dan bukannya risiko wujud daripada AI itu sendiri.
Pengawal selia Eropah juga telah menolak keperluan untuk struktur baharu. Ketua teknologi EU, Henna Virkkunen memberitahu Reuters bahawa Akta AI blok itu sudah mencukupi untuk menangani risiko yang ditimbulkan oleh sistem AI penyangak.
Iklim politik di Amerika Syarikat menambah satu lagi lapisan kerumitan. Pentadbiran Trump telah menentang peraturan mengikat yang boleh memperlahankan inovasi di tengah-tengah persaingan sengit dengan China, sebaliknya mempromosikan kod kelakuan sukarela, dan tiada undang-undang persekutuan secara khusus mengawal model sempadan. Terutamanya, pada hari Ahad sebelum surat itu diedarkan, pentadbiran membatalkan bloknya di makmal AS yang memberi Institut Keselamatan AI Britain akses awal kepada model untuk ujian keselamatan — isyarat bahawa beberapa bentuk penelitian luar semakin mendapat perhatian walaupun tanpa mandat domestik.
Amaran Hinton yang Semakin Meningkat
Bagi Geoffrey Hinton, surat itu adalah kesinambungan daripada kempen yang semakin mendesak. Beliau baru-baru ini memberi amaran kepada penggubal undang-undang AS bahawa mereka mungkin hanya mempunyai kira-kira setahun untuk mewujudkan perlindungan sebelum kecerdasan buatan bergerak di luar kawalan manusia. Hinton dan Bengio, bersama ketua saintis OpenAI Jakub Pachocki, pengasas bersama Anthropic Jack Clark dan ketua pegawai saintifik Microsoft Eric Horvitz, turut mengarang bersama kertas amaran baru-baru ini bahawa AI yang mempertingkatkan diri boleh mencetuskan "letupan kecerdasan" — menggesa kerajaan supaya melaksanakan pengawasan sebelum pembangunan pesat mengatasi keupayaan masyarakat untuk menyesuaikan diri.
Penandatangan surat itu berhenti daripada menyeru agar pembangunan AI menjadi perlahan. Sebaliknya, mereka menggesa organisasi membangunkan atau menguji model berkemampuan siber untuk segera mengguna pakai standard pembendungan jaminan tinggi sementara kerajaan berusaha ke arah rejim pengawasan yang lebih formal.
Apa Yang Berlaku Seterusnya
Cadangan itu menghadapi kemungkinan besar. Badan antarabangsa yang mempunyai kuasa ke atas pembendungan AI akan memerlukan penyelarasan di kalangan kerajaan yang pada masa ini tidak boleh bersetuju sama ada peraturan yang mengikat perlu sama sekali. EU mengekalkan Akta AInya adalah mencukupi; AS memihak kepada komitmen sukarela; dan China sedang mengejar laluan kawal selianya sendiri.
Namun, surat itu menambah berat yang boleh diukur kepada perdebatan yang telah bergerak dengan pantas dari pinggir ke arus perdana. Apabila kira-kira 400 saintis merentasi 34 negara - termasuk penyelidik yang paling terkenal dalam bidang itu - mengatakan ikrar sukarela tidak mencukupi, persoalan beralih daripada sama ada AI memerlukan pembendungan yang lebih kuat kepada siapa yang akan membinanya, dan seberapa cepat.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
