Tim peneliti independen wis nduduhake manawa model AI bisa nggawa kemampuan sing didhelikake kanthi fungsional sing dijamin kanthi matematis kanggo nyingkiri deteksi, sanajan auditor duwe akses lengkap menyang bobot model kasebut. Makalah kasebut, kanthi irah-irahan "Model AI Bisa Ndhelikake Kapabilitas Sewenang-wenang," dikirim menyang arXiv tanggal 9 Oktober 2026 dening Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas lan Christian Schroeder de Witt, lan narik kawigatosan sing signifikan ing Hacker News minggu iki sawise nggawe kaca ngarep situs kasebut.
Pakaryan kasebut nyebabake asumsi inti praktik safety AI modern: manawa prilaku mbebayani bisa diluncurake sadurunge nyebarake liwat evaluasi kemampuan, sing nyelidiki model kanthi tes sing dirancang kanggo entuk apa wae sing bisa ditindakake. Penulis nuduhake yen asumsi iki ambruk ing kahanan mungsuh. Minangka koran kasebut, linuwih evaluasi kemampuan "gumantung saka asumsi manawa kapabilitas sing didhelikake bisa ditemokake" - lan dheweke nggawe serangan ing ngendi asumsi kasebut gagal. Kanggo para pamaca sing ngetutake pangembangan AI paling anyar ing riset safety, kertas kasebut minangka salah sawijining demonstrasi resmi sing paling nyata yen model sing bisa, ing prinsip, bisa ngliwati evaluasi nalika ndhelikake apa sing bisa ditindakake.
Cara Kerja Skema Singidaken
Para peneliti nggawe serangan backdoor sing ngemot apa sing diarani jaringan saraf sing dienkripsi ing bobot model host. Jaringan didhelikake lenggah ana ing wangun ndhelik, kontribusi apa-apa kanggo prilaku katon model, nganti nampa pemicu rahasia. Ing titik kasebut, model dekripsi sirkuit sing didhelikake lan dieksekusi.
Mekanisme kriptografi ing jantung konstruksi yaiku apa sing diarani para penulis loker digital. Ing asumsi kriptografi standar, loker iki nggawe sirkuit sing didhelikake dadi angel digambarake lan angel diinterpretasi - sanajan kanggo auditor sing duwe akses lengkap menyang bobot model kasebut. Ing tembung liya, ndhelikake ora gumantung ing ndhelikake sing subtle utawa angel kesandhung. Iku gumantung ing jaminan atose matematika saka jinis padha sing nglindhungi komunikasi ndhelik.
Iki ngluwihi kerja sadurunge ing lapangan, sing nuduhake manawa model bisa ndhelikake senar sing tetep, kayata sandhi utawa pesen singkat. Kertas anyar iki mindhah gawang kanthi signifikan: sing saiki bisa didhelikake yaiku komputasi sing sewenang-wenang - kemampuan sing lengkap lan bisa digunakake tinimbang rahasia statis.
Diuji Nglawan Teknik Audit Nyata
Tim kasebut ngetrapake konstruksi bukti-konsep ing PyTorch lan banjur nyerang karo toolkit standar audit model. Evaluasi nguji elicitation liwat fine-tuning, gangguan bobot, telusuran pemicu adhedhasar gradien lan latihan adversarial laten - macem-macem teknik sing nuduhake carane auditor serius bakal nyoba ngekstrak prilaku sing didhelikake saka model sing curiga.
Tugas test ana masalah prediksi reaksi kimia cilik, dipilih kanthi sengaja minangka proxy kanggo kapabilitas karo totoan nyata: tugas prediksi kimia minangka stand-in kanggo CBRN-relevan (kimia, biologi, radiological lan nuklir) skills, kategori kapabilitas sing evaluasi pra-penyebaran paling peduli. Implementasi sing didhelikake nolak kabeh metode elisitasi sing dibuwang.
Digabungake karo jaminan kriptografi, penulis mbantah asile nuduhake watesan dhasar saka audit kapabilitas adhedhasar elisitasi. Yen pangembang model - utawa pihak katelu sing jahat sing ngrusak model - duwe insentif kanggo ndhelikake kemampuan, audit sing gumantung ing nggambar prilaku kasebut bisa uga ora bisa ditemokake.
Napa Iki Penting kanggo Keamanan AI
Evaluasi kemampuan wis dadi bagean standar babagan carane lab AI perbatasan mutusake manawa model kasebut aman kanggo diluncurake. Kertas kasebut ora ngaku manawa model produksi saiki ndhelikake kemampuan kanthi cara iki. Nanging, iki nuduhake yen lapisan audit dhewe duwe kekirangan struktural: mungsuh sing bisa ngontrol latihan model bisa kanthi prinsip nampilake kemampuan sing ora bakal diungkapake.
Implikasi dipotong ing sawetara arah. Kanggo laboratorium, iki nguatake keamanan rantai pasokan paranoid babagan bobot model - pos papriksan mburi ora mung risiko linuwih nanging bisa uga ora bisa dideteksi. Kanggo auditor lan regulator, nuduhake manawa evaluasi adhedhasar sampling prilaku bisa uga kudu dilengkapi jaminan sing luwih kuat babagan cara model dilatih lan ditangani. Lan kanggo komunitas riset, iki nemtokake tantangan pertahanan konkrit: penulis wis ngrilis model-model kasebut sacara umum kanggo ndhukung peningkatan pertahanan marang kelas serangan iki.
Koran kasebut uga ngemot filosofis sing luwih jembar. Umume safety AI gumantung ing idea yen kita bisa nyoba cara kanggo kapercayan - yen tim abang sing cukup bakal nemokake apa sing bisa ditindakake model. Mekanisme ndhelikake sing bisa dibuktekake ora nggawe tes ora ana gunane, nanging tegese lulus saben tes ora bisa dianggep minangka bukti yen ora ana sing bisa ditemokake. Minangka model frontier tuwuh luwih bisa lan luwih otonom, longkangan antarane apa audit bisa nuduhake lan model apa bisa ngemot persis jenis masalah lapangan bakal dipeksa kanggo njupuk serius.
Kertas lengkap penulis, kalebu konstruksi kriptografi lan rincian evaluasi, kasedhiya ing arXiv, lan model bukti-konsep sing dirilis menehi para pembela titik wiwitan sing konkrit kanggo metode deteksi bangunan sing bisa nglawan panyebaran gaya digital-locker.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
