Sebuah tim peneliti independen telah menunjukkan bahwa model AI dapat membawa kemampuan tersembunyi yang berfungsi penuh yang secara matematis dijamin dapat menghindari deteksi, bahkan ketika auditor memiliki akses penuh terhadap bobot model. Makalah tersebut, berjudul "Model AI Dapat Terbukti Menyembunyikan Kemampuan Sewenang-wenang," diposting ke arXiv pada tanggal 9 Oktober 2026 oleh Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas, dan Christian Schroeder de Witt, dan menarik perhatian besar di Hacker News minggu ini setelah membuat halaman depan situs tersebut.
Pekerjaan ini sesuai dengan asumsi inti praktik keselamatan AI modern: bahwa perilaku berbahaya dapat muncul sebelum diterapkan melalui evaluasi kemampuan, yang menguji model dengan pengujian yang dirancang untuk memperoleh apa pun yang dapat dilakukan model tersebut. Para penulis menunjukkan bahwa asumsi ini runtuh dalam kondisi yang tidak menguntungkan. Sebagaimana dinyatakan dalam makalah ini, keandalan evaluasi kemampuan "bergantung pada asumsi bahwa kemampuan tersembunyi dapat dimunculkan" - dan mereka membangun serangan ketika asumsi tersebut terbukti gagal. Bagi pembaca yang mengikuti perkembangan AI terkini dalam penelitian keselamatan, makalah ini merupakan salah satu demonstrasi formal yang paling mencolok bahwa model yang mumpuni, pada prinsipnya, dapat lulus evaluasi sambil menyembunyikan apa yang sebenarnya dapat dilakukannya.
Cara Kerja Skema Penyembunyian
Para peneliti membangun serangan pintu belakang yang menyematkan apa yang mereka sebut jaringan saraf terenkripsi di dalam bobot model host. Jaringan tersembunyi berada di sana dalam bentuk terenkripsi, tidak memberikan kontribusi apa pun terhadap perilaku model yang terlihat, hingga ia menerima pemicu rahasia. Pada saat itu, model mendekripsi sirkuit tersembunyi dan mengeksekusinya.
Mekanisme kriptografi yang menjadi inti konstruksi inilah yang penulis sebut sebagai loker digital. Berdasarkan asumsi kriptografi standar, loker ini membuat sirkuit tersembunyi terbukti sulit diperoleh dan diinterpretasikan — bahkan bagi auditor yang memiliki akses penuh terhadap bobot model. Dengan kata lain, penyembunyiannya tidak bergantung pada persembunyian yang halus atau sulit ditemukan. Hal ini bergantung pada jaminan kekerasan matematis yang sama yang melindungi komunikasi terenkripsi.
Hal ini memperluas penelitian sebelumnya di lapangan, yang telah menunjukkan bahwa model dapat menyembunyikan string tetap, seperti kata sandi atau pesan singkat. Makalah baru ini sangat mengubah tujuan: apa yang sekarang dapat disembunyikan adalah perhitungan sewenang-wenang – kemampuan yang lengkap dan berfungsi, bukan rahasia statis.
Diuji Terhadap Teknik Audit Nyata
Tim menerapkan konstruksi bukti konsep mereka di PyTorch dan kemudian menyerangnya dengan perangkat standar audit model. Evaluasi tersebut menguji elisitasi melalui penyesuaian, gangguan bobot, pencarian pemicu berbasis gradien, dan pelatihan permusuhan laten – serangkaian teknik yang mewakili seberapa serius auditor dalam mencoba mengekstraksi perilaku tersembunyi dari model yang mencurigakan.
Tugas pengujiannya adalah soal prediksi reaksi kimia berukuran kecil, yang sengaja dipilih sebagai proksi kemampuan dengan taruhan di dunia nyata: tugas prediksi kimia merupakan pengganti keterampilan yang relevan dengan CBRN (kimia, biologi, radiologi, dan nuklir), kategori kemampuan yang paling diperhatikan oleh evaluasi pra-penerapan. Implementasi tersembunyi ini menolak semua metode elisitasi yang dilontarkan kepada mereka.
Dikombinasikan dengan jaminan kriptografi, penulis berpendapat bahwa hasil mereka mengungkapkan batas mendasar dari audit kemampuan berbasis elisitasi. Jika pengembang model – atau pihak ketiga jahat yang merusak model – mempunyai insentif untuk menyembunyikan suatu kemampuan, audit yang mengandalkan penarikan perilaku tersebut mungkin tidak dapat menemukannya.
Mengapa Hal Ini Penting untuk Keamanan AI
Evaluasi kemampuan telah menjadi bagian standar bagaimana laboratorium AI terdepan memutuskan apakah suatu model aman untuk dirilis. Makalah ini tidak mengklaim bahwa model produksi saat ini menyembunyikan kemampuan dengan cara ini. Sebaliknya, hal ini menunjukkan bahwa lapisan audit itu sendiri memiliki kelemahan struktural: musuh yang memiliki kendali atas pelatihan model pada prinsipnya dapat menanamkan kemampuan yang tidak dapat diungkapkan oleh penyelidikan sebanyak apa pun.
Implikasinya berdampak ke beberapa arah. Bagi laboratorium, hal ini memperkuat alasan keamanan rantai pasokan paranoid seputar bobot model — pos pemeriksaan pintu belakang bukan hanya risiko keandalan tetapi juga berpotensi tidak terdeteksi. Bagi auditor dan regulator, hal ini menunjukkan bahwa evaluasi yang hanya didasarkan pada pengambilan sampel perilaku mungkin perlu dilengkapi dengan jaminan yang lebih kuat tentang bagaimana model dilatih dan ditangani. Dan bagi komunitas riset, hal ini mendefinisikan tantangan defensif yang konkrit: para penulis telah merilis model mereka secara publik khususnya untuk mendukung peningkatan pertahanan terhadap jenis serangan ini.
Makalah ini juga membawa muatan filosofis yang lebih luas. Sebagian besar keselamatan AI bertumpu pada gagasan bahwa kita dapat menguji cara kita menuju kepercayaan diri — bahwa tim merah yang memadai akan menemukan apa yang dapat dilakukan oleh sebuah model. Mekanisme penyembunyian yang dapat dibuktikan tidak membuat pengujian menjadi sia-sia, namun hal ini berarti bahwa kelulusan setiap pengujian tidak dapat lagi dianggap sebagai bukti bahwa tidak ada yang dapat ditemukan. Ketika model-model frontier tumbuh lebih mampu dan lebih mandiri, kesenjangan antara apa yang dapat ditunjukkan oleh audit dan apa yang mungkin terdapat dalam model-model tersebut adalah masalah yang harus ditanggapi dengan serius oleh bidang ini.
Makalah lengkap penulis, termasuk konstruksi kriptografi dan rincian evaluasi, tersedia di arXiv, dan model pembuktian konsep yang dirilis memberikan para pembela HAM titik awal yang konkrit untuk metode deteksi bangunan yang bekerja melawan penyembunyian gaya loker digital.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
