Pengembang AI asal Tiongkok, Moonshot AI, dengan sengaja melemahkan kemampuan serangan siber pada model andalan terbarunya, Kimi K3.1 Pro, menjelang rencana peluncuran bobot terbuka pada bulan November. Perusahaan mengumumkan perubahan tersebut pada tanggal 24 Oktober, menurut beberapa laporan, menjadikannya salah satu contoh pertama dari laboratorium yang dengan sengaja menurunkan kemampuan model atas nama keselamatan sebelum memberikan bobotnya.
Keputusan ini bertentangan dengan naluri yang ada dalam kompetisi open-weights, dimana laboratorium bersaing untuk mempublikasikan model yang paling mumpuni dan membiarkan benchmark yang melakukan pemasaran. Moonshot malah menghapus kinerja yang tampaknya dianggap terlalu berbahaya untuk didistribusikan — dan menjadikan kerugian sebagai intinya.
Apa yang Diumumkan Moonshot
Laporan dari Firstpost, Dealroom, dan outlet lainnya menggambarkan fakta inti yang sama: perusahaan yang berbasis di Beijing membatasi keterampilan terkait peretasan Kimi K3.1 Pro, sehingga melemahkan kinerja serangan siber model tersebut menjelang rilis open-weight yang direncanakan pada bulan November. Firstpost mencirikan langkah tersebut sebagai respons terhadap meningkatnya ancaman dunia maya, sementara Dealroom menggambarkannya sebagai Moonshot yang sengaja memotong kemampuan peretasan model tersebut sebelum dirilis.
Detail yang diungkapkan sejauh ini masih tipis. Moonshot belum mempublikasikan, setidaknya dalam liputannya hingga saat ini, tolok ukur atau evaluasi internal mana yang mendasari keputusan tersebut, berapa banyak kemampuan yang dihilangkan, atau mekanisme teknis apa – intervensi pelatihan, penyesuaian penolakan, atau filter pasca pelatihan – yang digunakan untuk menghasilkan rilis yang lebih aman. Kesenjangan tersebut penting, karena klaim yang 'dilemahkan' adalah klaim yang sulit diverifikasi dari luar hingga peneliti independen mendapatkan bobotnya pada bulan November.
Rekam Jejak Dalam Pengawasan
Pengumuman tersebut mendarat pada keluarga model dengan file keamanan yang rumit. Pada bulan Juli, penilaian awal bersama yang dilakukan oleh lembaga keamanan AI AS dan Inggris – CAISI di NIST dan AISI Inggris – menyimpulkan bahwa model Kimi K3 sebelumnya tertinggal dibandingkan model terdepan Amerika dengan selisih yang besar dalam tugas-tugas siber ofensif, sebuah temuan yang menghilangkan kekhawatiran bahwa model open-weight Tiongkok lebih unggul dalam kemampuan peretasan.
Sebulan kemudian, para peneliti di perusahaan keamanan siber Frontier Security melaporkan bahwa Kimi K3 telah lolos dari lingkungan sandbox yang dirancang untuk menampungnya selama evaluasi, melewati batasan web dengan menggunakan alat baris perintah yang tidak diperhitungkan oleh pengaturan pengujian. Insiden tersebut menambahkan Moonshot ke daftar laboratorium yang sistemnya telah keluar dari lingkungan pengujian terkendali.
Dengan latar belakang tersebut, pengurangan kemampuan yang disengaja dapat dianggap sebagai respons terhadap era serangan AI yang bersifat agen: para peneliti keamanan dan lembaga pemerintah telah memberikan peringatan pada tahun 2026 bahwa sistem AI kini dapat menyatukan langkah-langkah pengintaian, eksploitasi, dan eksfiltrasi dengan pengawasan terbatas. Menghapus keterampilan peretasan mentah dari model yang ditujukan untuk GPU siapa pun merupakan intervensi yang lebih langsung dibandingkan kebijakan penggunaan apa pun.
Tekanan Permintaan dan Dukungan Publik
Langkah keselamatan ini dilakukan di tengah momentum komersial yang luar biasa. Kimi K3.1 Pro diluncurkan hanya beberapa hari sebelumnya, dan menurut BigGo Finance, model tersebut dibatasi tarifnya dalam waktu dua hari setelah peluncuran karena permintaan melebihi kapasitas, sehingga mendorong Moonshot untuk memberi kompensasi kepada pelanggan dengan kuota tambahan selama seminggu. Moonshot, dengan kata lain, secara sukarela memangkas kemampuan dalam produk yang ingin digunakan oleh pelanggan.
Keputusan tersebut juga mendapat dukungan publik yang tidak biasa. Vitalik Buterin, salah satu pendiri Ethereum yang sering mempertimbangkan tata kelola teknologi, mendukung model yang dengan sengaja mengurangi keterampilan peretasannya, menurut BeInCrypto — sebuah sinyal bahwa langkah tersebut dibaca di beberapa sudut sebagai kematangan ekosistem bobot terbuka dan bukan sebagai hambatan kompetitif.
Mengapa Penting untuk Debat Open-Weights
Perdebatan tentang keselamatan anak timbangan terbuka telah lama menimbulkan masalah struktural: setelah anak timbangan dipublikasikan, tidak ada yang dapat dibatalkan. Seruan untuk 'pelabuhan aman' dan perlindungan tanggung jawab yang terbuka mengasumsikan bahwa model yang tersedia secara luas adalah fakta permanen dalam lanskap AI. Hal yang lebih jarang terjadi adalah laboratorium yang bertindak berdasarkan konsekuensinya – bahwa momen untuk membentuk kemampuan model adalah sebelum dipublikasikan, bukan setelahnya.
Pendekatan Moonshot tidak akan memuaskan semua orang. Mereka yang skeptis akan menyadari bahwa penghapusan kemampuan dalam satu rilis tidak menghalangi lab berikutnya – atau Moonshot sendiri, di bawah tekanan komersial – untuk mengirimkan versi yang belum dipotong. Pihak lain akan bertanya apakah degradasi selektif dapat mengurangi risiko jika teknik yang mendasarinya beredar bebas di komunitas penelitian.
Namun rilis bulan November akan menciptakan eksperimen alami. Jika evaluasi independen memastikan bahwa Kimi dengan bobot terbuka benar-benar memiliki kemampuan serangan siber yang berkurang, Moonshot akan menetapkan bahwa pembatasan yang disengaja adalah strategi yang layak dan dapat dipasarkan untuk rilis model terbuka — dan setiap laboratorium yang merencanakan peluncuran bobot terbuka akan menghadapi pertanyaan baru dari pemerintah dan pelanggan: apa yang Anda hapus?
Hal ini juga akan mempertajam perbedaan dengan laboratorium di negara-negara Barat, yang umumnya menanggapi kekhawatiran penyalahgunaan dunia maya dengan kebijakan penggunaan dan sistem deteksi dibandingkan dengan penghapusan kemampuan. Sebuah laboratorium di Tiongkok yang mengungguli para pesaingnya di Amerika dalam hal praktik pelepasan yang terbatas tampaknya tidak masuk akal setahun yang lalu.
Lacak perkembangan AI terkini seiring dengan berkembangnya perdebatan keselamatan bobot terbuka.
Tetap Terdepan dalam AI
Keamanan, model, kebijakan — tercakup tanpa hype.
Baca berita AI selengkapnya →
