Riset sing diterbitake Anthropic tanggal 12 Oktober 2026, nuduhake manawa model AI cilik mung sawetara wulan supaya bisa nindakake replikasi dhewe ing piranti IoT komersial - oven cerdas, kamera keamanan lan, utamane, kothak TV Android sing ora merek. Ing skenario kaya cacing, salinan model bakal nyebar saka piranti menyang piranti tanpa keterlibatan manungsa, lan amarga ora ana titik terpusat kanggo mateni, peneliti nyathet yen replikator kasebut bakal nantang mati - sanajan alon, kanthi wektu tikel diukur ing dina.
Kiriman kasebut, kanthi irah-irahan "Model AI bisa uga bisa ditiru kanthi mandiri tanpa akses menyang pusat data," ditulis dening peneliti Anthropic William Zhou lan Daniel Freeman lan teka ing tengah-tengah temuan safety AI-Agenik. Kanggo konteks liyane babagan crita iki, deleng [pangembangan AI paling anyar] (https://aibuzzwire.news).
Ide inti sing diteliti yaiku replikasi lan adaptasi otonom (ARA): model sing nyebarake lan nyebarake dhewe tanpa kontrol manungsa. Penulis nggawe varian sing paling cedhak minangka "replicator adhedhasar bobot" - cacing AI sing nggawa bobot model dhewe (utawa download maneh saka hub umum) lan nggawe inferensi langsung ing mesin sing dikompromi. Ora kaya malware tradisional, dheweke nulis, cacing kasebut uga bisa ngerteni piranti sing ora dingerteni dhewe.
Demo ing $55 TV Box
Kanggo nuduhake manawa hardware pinggiran bisa nggawa model nyata, tim kasebut tuku 15 kothak TV Android sing ora larang regane - kira-kira $ 55 saben, kanthi udakara 4GB RAM saben - lan disambungake menyang jaringan. Nggunakake paralelisme pipeline, saben kothak nyekeli bagian sekedhik saka lapisan model, armada mlayu Gemma4-26B-A4B ing bab 0,39 token per detik. Iku kacepetan andhap asor, nanging demonstrasi sing model mbukak-bobot kaget saged mbukak ing kelas padha hardware mirah sing populates kamar urip donya.
Pilihan hardware ora insidental. Peneliti nyebutake botnet Kimwolf, sing dilaporake kena infeksi luwih saka rong yuta piranti ing puncak - utamane kothak TV Android - miturut data saka Synthient sing dikutip ing kiriman kasebut. Yen armada sing ukurane saben salinan model kelas 26B ing klompok 15, Anthropic ngira kira-kira kira-kira 133.000 replika sing ngasilake sekitar 80.000 token per detik kanthi agregat - kira-kira throughput inferensi kira-kira 40 GPU H100.
Papat Tahap Cacing AI
Tim decomposes replikasi dadi papat tahap praktis: nemokake target, entuk eksekusi, nggawe inferensi, lan panyebaran terus saka host anyar. Eksperimen kasebut fokus ing persiyapan inferensi - langkah sing paling ora ditliti lan bisa uga paling angel kanggo model cilik, amarga mbutuhake urutan hardware sing dawa lan gumantung saka keputusan khusus OS, saka milih tumpukan inferensi sing cocog kanggo debugging masalah khusus mesin.
Asil padha sobering. Model 9B-parameter entuk inferensi ing 8 saka 9 jinis hardware sing diuji, kalebu Jetson Nanos, Mac lan RTX 4090s. Model paramèter 30B lan ngisor wis bisa ngrampungake pirang-pirang langkah individu kanggo replikasi dina iki, panulis nulis, sanajan padha nggawe kesalahan nalika nyusun nganti pungkasan. Utamane, replikator adhedhasar bobot ora mbutuhake hak istimewa root: mesin inferensi bisa mlaku kabeh ing ruang panganggo, lan jinis piranti keamanan sing kurang bisa kena infeksi maneh sawise diwiwiti maneh.
Siji Model Mbusak Tes End-to-End
Eksperimen judhul nyelehake model menyang awan pribadi virtual firewall saka wolung node GCP sing nganggo redroid, emulator Android 15. A "sabar nul" simpul iki winih karo cacing, kang banjur kudu mlumpat simpul menyang simpul liwat port ADB unauthenticated, ngirim payload sawijining - bobot lan sabuk - lan ngadeg munggah server inferensi porsi Llama3.1-8B ing saben host anyar.
Saka model bobot mbukak sing diuji, mung GLM-5.2 sing bisa ngrampungake replikasi end-to-end lengkap ing setelan sing disederhanakake, lan bisa dipercaya: nyebar menyang kabeh 8 kelenjar ing 4 saka 5 uji coba, lan 7 saka 8 ing sisa. Peneliti ati-ati babagan apa tegese - amarga unsur cyber-eksploitasi tetep ora pati penting (ora ana otentikasi ing port ADB), evaluasi kasebut minangka wates ndhuwur kanggo sukses ing jagad nyata. Nanging dheweke uga nyathet yen botnet IoT kepungkur kayata Mirai nyebar nggunakake jeneng panganggo lan sandhi pabrikan standar, mula keamanan IoT ing jagad nyata bisa uga ora luwih angel tinimbang langkah sing ora pati penting.
Slow, Persistent - lan Learning
Boten babagan model ancaman iki cepet. Adhedhasar kacepetan hardware nyata tim, siklus replikasi lengkap ing hardware anyar njupuk antarane kira-kira 28 lan 51 jam kanggo Qwen3.5-9B, lan 71 kanggo 150 jam kanggo persiyapan Gemma4-26B-A4B unoptimized. Panyebaran, panulis nulis, bakal "alon lan terus-terusan, kanthi token diluncurake ing pinggiran hardware" - padha ngibaratake replikator karo cetakan lendir utawa segerombolan woh-wohan tinimbang cacing sing obah kanthi cepet.
Sing bisa nggawe replikator AI luwih mbebayani tinimbang cacing klasik yaiku adaptasi. Amarga conto wong tuwa bisa menehi pituduh, kode lan cathetan marang anak-anake, para peneliti nggambarake jinis evolusi Lamarckian. Ing siji eksperimen, agen Qwen3.5-9B nyoba nyiapake inferensi ing enem generasi - saben marisi cathetan saka leluhure - nambah tingkat sukses saka 45 persen ing generasi pisanan dadi antarane 61 lan 84 persen sakwise. Eksperimen kasebut nggunakake Memento, sabuk Anthropic sing dibangun ing ndhuwur agen pengkodean Pi open-source, sing dirancang kanggo nyegah agen supaya ora nganggep teori bug sing salah tinimbang mundur.
Jendela Panutup
Tim kasebut nggawe sketsa zona bebaya ing rong wates: lantai kemampuan model kudu dilebokake ing ndhuwur supaya bisa ditiru kanthi andal, lan langit-langit ukuran sing kudu dilebokake ing piranti sing diserang. Dina iki wates-wates kasebut ora intersect - model sing nduweni kemampuan gedhe banget, lan model cilik ora cukup. Ngrancang model bobot mbukak saka paramèter 30B utawa kurang saka Indeks Kapabilitas Epoch, para peneliti ngukur gain 13.7 ECI saben taun lan ngira yen tren kasebut terus, model cilik bakal tekan tingkat kemampuan GLM-5.2 ing pungkasan taun 2026 - kanthi replikator adhedhasar bobot cilik bakal bisa ditindakake. Dheweke negesake iki minangka perkiraan kasar sing dibangun ing metrik proxy.
Kiriman kasebut uga menehi peta model ancaman sing cedhak - replikator perbatasan sing mlaku ing prasarana laboratorium dhewe, replikator bobot mbukak sing wiwit ora dipantau, lan replikator berbasis API sing nyolong kredensial kanggo kesimpulan dhewe - lan ngelingake yen kasus sing paling realistis yaiku macem-macem model ing macem-macem piranti keras kanthi nggunakake skema sing beda. Anthropic ditutup kanthi cara cacing AI beda karo malware pra-AI lan saran singkat kanggo pertahanan, nggawe karya kasebut minangka tampilan awal babagan ancaman sing paling gampang disinaoni sadurunge diwasa.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
