Pasukan penyelidik bebas telah menunjukkan bahawa model AI boleh membawa keupayaan tersembunyi berfungsi sepenuhnya yang dijamin secara matematik untuk mengelakkan pengesanan, walaupun juruaudit mempunyai akses lengkap kepada pemberat model. Kertas kerja itu, bertajuk "Model AI Boleh Terbukti Menyembunyikan Keupayaan Sewenang-wenangnya," telah disiarkan ke arXiv pada 9 Oktober 2026 oleh Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas dan Christian Schroeder de Witt, dan menarik perhatian penting pada Berita Hacker minggu ini selepas membuat muka depan tapak itu.
Kerja ini menyerang andaian teras amalan keselamatan AI moden: bahawa tingkah laku berbahaya boleh ditimbulkan sebelum penggunaan melalui penilaian keupayaan, yang menyiasat model dengan ujian yang direka untuk mendapatkan apa sahaja yang boleh dilakukannya. Penulis menunjukkan bahawa andaian ini runtuh di bawah keadaan musuh. Seperti yang dinyatakan oleh kertas itu, kebolehpercayaan penilaian keupayaan "bergantung pada andaian bahawa keupayaan tersembunyi boleh ditimbulkan" — dan mereka membina serangan di mana andaian itu terbukti gagal. Bagi pembaca yang mengikuti perkembangan AI terbaharu dalam penyelidikan keselamatan, makalah itu merupakan salah satu demonstrasi formal yang paling nyata yang model yang mampu, pada dasarnya, boleh lulus penilaiannya sambil menyembunyikan perkara yang sebenarnya boleh dilakukannya.
Bagaimana Skim Bersembunyi Berfungsi
Para penyelidik membina serangan pintu belakang yang membenamkan apa yang mereka panggil rangkaian saraf yang disulitkan di dalam pemberat model hos. Rangkaian tersembunyi terletak di sana dalam bentuk yang disulitkan, tidak menyumbang apa-apa kepada tingkah laku yang boleh dilihat model, sehingga ia menerima pencetus rahsia. Pada ketika itu, model menyahsulit litar tersembunyi dan melaksanakannya.
Mekanisme kriptografi di tengah-tengah pembinaan adalah apa yang penulis panggil loker digital. Di bawah andaian kriptografi standard, loker ini menjadikan litar tersembunyi terbukti sukar untuk ditimbulkan dan sukar untuk ditafsir — walaupun untuk juruaudit yang mempunyai akses penuh kepada pemberat model. Dalam erti kata lain, penyembunyian itu tidak bergantung pada persembunyian yang halus atau sukar untuk tersandung. Ia bergantung pada jaminan kekerasan matematik jenis yang sama yang melindungi komunikasi yang disulitkan.
Ini memanjangkan kerja awal dalam bidang, yang telah menunjukkan bahawa model boleh menyembunyikan rentetan tetap, seperti kata laluan atau mesej ringkas. Kertas baharu itu menggerakkan tiang gol dengan ketara: apa yang kini boleh disembunyikan ialah pengiraan sewenang-wenang — keupayaan berfungsi yang lengkap dan bukannya rahsia statik.
Diuji Terhadap Teknik Audit Sebenar
Pasukan itu melaksanakan pembinaan bukti konsep mereka dalam PyTorch dan kemudian menyerang mereka dengan kit alat standard pengauditan model. Penilaian menguji elisitasi melalui penalaan halus, bunyi berat, carian cetusan berasaskan kecerunan dan latihan lawan terpendam — pelbagai teknik yang mewakili betapa seriusnya juruaudit akan cuba mengekstrak tingkah laku tersembunyi daripada model yang mencurigakan.
Tugas ujian ialah masalah ramalan tindak balas kimia yang kecil, dipilih secara sengaja sebagai proksi untuk keupayaan dengan kepentingan dunia sebenar: tugas ramalan kimia adalah sokongan untuk kemahiran (kimia, biologi, radiologi dan nuklear) yang berkaitan dengan CBRN, kategori keupayaan yang paling diutamakan oleh penilaian pra-pengerahan. Pelaksanaan tersembunyi menentang semua kaedah elisitasi yang dilemparkan kepada mereka.
Digabungkan dengan jaminan kriptografi, penulis berpendapat keputusan mereka mendedahkan had asas audit keupayaan berasaskan elisitasi. Jika pembangun model — atau pihak ketiga yang berniat jahat yang mengganggu model — mempunyai insentif untuk menyembunyikan keupayaan, audit yang bergantung pada pengeluaran tingkah laku itu mungkin tidak dapat menemuinya.
Mengapa Ini Penting untuk Keselamatan AI
Penilaian keupayaan telah menjadi bahagian standard bagaimana makmal AI sempadan menentukan sama ada model selamat untuk dikeluarkan. Akhbar itu tidak mendakwa bahawa model pengeluaran sedang menyembunyikan keupayaan dengan cara ini. Sebaliknya, ia menunjukkan bahawa lapisan audit itu sendiri mempunyai kelemahan struktur: musuh yang mempunyai kawalan ke atas latihan model pada dasarnya boleh membenamkan keupayaan yang tidak akan didedahkan oleh sebarang siasatan.
Implikasi dipotong dalam beberapa arah. Untuk makmal, ia mengukuhkan kes untuk keselamatan rantaian bekalan paranoid di sekitar berat model - pusat pemeriksaan pintu belakang bukan sahaja risiko kebolehpercayaan tetapi berpotensi tidak dapat dikesan. Bagi juruaudit dan pengawal selia, ini mencadangkan bahawa penilaian berdasarkan persampelan tingkah laku semata-mata mungkin perlu dilengkapkan dengan jaminan yang lebih kukuh tentang cara model dilatih dan dikendalikan. Dan untuk komuniti penyelidikan, ia mentakrifkan cabaran pertahanan yang konkrit: pengarang telah mengeluarkan model mereka secara terbuka khusus untuk menyokong peningkatan pertahanan terhadap kelas serangan ini.
Kertas itu juga membawa sengatan falsafah yang lebih luas. Sebilangan besar keselamatan AI bergantung pada idea bahawa kita boleh menguji cara kita untuk yakin — bahawa pasukan merah yang mencukupi akan menemui apa yang boleh dilakukan oleh model. Mekanisme penyembunyian yang boleh dibuktikan tidak menjadikan ujian sia-sia, tetapi ini bermakna bahawa lulus setiap ujian tidak lagi boleh dianggap sebagai bukti bahawa tiada apa yang perlu dicari. Apabila model sempadan berkembang dengan lebih berkebolehan dan lebih autonomi, jurang antara perkara yang boleh ditunjukkan oleh audit dan model yang mungkin mengandungi adalah jenis masalah yang akan terpaksa diambil serius oleh bidang tersebut.
Kertas penuh pengarang, termasuk pembinaan kriptografi dan butiran penilaian, tersedia di arXiv, dan model bukti konsep yang dikeluarkan memberi pembela titik permulaan yang konkrit untuk kaedah pengesanan bangunan yang berfungsi menentang penyembunyian gaya loker digital.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
