Penelitian yang dipublikasikan oleh Anthropic pada tanggal 12 Oktober 2026 menunjukkan bahwa model AI berukuran kecil mungkin hanya tinggal beberapa bulan lagi untuk mampu mereplikasi diri pada perangkat IoT komersial – oven pintar, kamera keamanan, dan yang paling penting, kotak TV Android yang tidak bermerek. Dalam skenario seperti cacing, salinan model akan menyebar dari perangkat ke perangkat tanpa keterlibatan manusia, dan karena tidak ada titik terpusat untuk mematikannya, para peneliti mencatat bahwa replikator seperti itu akan sulit untuk dimatikan – meskipun lambat, dengan waktu penggandaan yang diukur dalam beberapa hari.
Postingan tersebut, berjudul "Model AI mungkin mampu mereplikasi diri sendiri tanpa akses ke pusat data," ditulis oleh peneliti Antropis William Zhou dan Daniel Freeman dan muncul di tengah serangkaian temuan keamanan AI agenik. Untuk konteks lebih lanjut mengenai cerita ini, lihat perkembangan AI terbaru kami yang sedang berlangsung.
Ide inti yang diteliti adalah replikasi dan adaptasi otonom (ARA): sebuah model yang menyebar dan menyebarkan dirinya sendiri tanpa kendali manusia. Para penulis membingkai varian jangka pendek sebagai “replikasi berbasis bobot” – sebuah worm AI yang membawa bobot modelnya sendiri (atau mengunduh ulang bobot tersebut dari hub publik) dan menjalankan inferensi langsung pada mesin yang disusupinya. Tidak seperti malware tradisional, tulis mereka, worm semacam itu juga dapat mengenali perangkat asing dengan sendirinya.
Demo Kotak TV $55
Untuk menunjukkan bahwa perangkat keras edge dapat membawa model nyata, tim membeli 15 kotak TV Android murah — masing-masing sekitar $55, dengan masing-masing RAM sekitar 4 GB — dan menghubungkannya bersama-sama. Dengan menggunakan paralelisme jalur pipa, dengan setiap kotak menampung sebagian kecil lapisan model, armada menjalankan Gemma4-26B-A4B dengan kecepatan sekitar 0,39 token per detik. Ini adalah kecepatan yang sederhana, namun sebuah demonstrasi bahwa model open-weight yang sangat mumpuni dapat berjalan pada kelas perangkat keras murah yang sama dengan yang ada di ruang keluarga di seluruh dunia.
Pemilihan perangkat keras bukanlah suatu kebetulan. Para peneliti mengutip botnet Kimwolf, yang dilaporkan menginfeksi lebih dari dua juta perangkat pada puncaknya – terutama kotak TV Android – menurut data dari Synthient yang dikutip dalam postingan tersebut. Jika armada sebesar itu masing-masing menjalankan salinan model kelas 26B dalam kelompok yang terdiri dari 15 orang, Anthropic memperkirakan jumlah tersebut akan berjumlah sekitar 133.000 replika yang menghasilkan sekitar 80.000 token per detik secara agregat — kira-kira throughput inferensi sekitar 40 GPU H100.
Empat Tahapan Worm AI
Tim menguraikan replikasi menjadi empat tahap praktis: menemukan target, mendapatkan eksekusi, membuat kesimpulan, dan melanjutkan propagasi dari inang baru. Eksperimen mereka berkonsentrasi pada penyiapan inferensi — langkah yang paling jarang dipelajari dan bisa dibilang langkah tersulit untuk model kecil, karena memerlukan rangkaian keputusan khusus perangkat keras dan OS yang panjang dan bergantung secara serial, mulai dari memilih tumpukan inferensi yang kompatibel hingga melakukan debug pada masalah khusus mesin.
Hasilnya sungguh menyedihkan. Model parameter 9B mendapatkan inferensi yang berjalan pada 8 dari 9 jenis perangkat keras yang diuji, mencakup Jetson Nanos, Mac, dan RTX 4090s. Model dengan parameter 30B ke bawah sudah dapat menyelesaikan banyak langkah replikasi individual saat ini, tulis penulis, meskipun mereka membuat kesalahan saat menyusunnya secara menyeluruh. Khususnya, replikator berbasis bobot bahkan tidak memerlukan hak akses root: mesin inferensi dapat berjalan sepenuhnya di ruang pengguna, dan jenis perangkat dengan keamanan rendah dapat dengan mudah terinfeksi ulang setelah restart.
Satu Model Menyelesaikan Uji End-to-End
Eksperimen utama memasukkan model ke dalam cloud pribadi virtual yang dilindungi firewall yang terdiri dari delapan node GCP yang menjalankan redroid, sebuah emulator Android 15. Node "patient zero" diunggulkan dengan worm, yang kemudian harus berpindah dari satu node ke node lain melalui port ADB yang tidak diautentikasi, mengirimkan muatannya — bobot dan tali pengaman — dan membangun server inferensi yang melayani Llama3.1-8B pada setiap host baru.
Dari model bobot terbuka yang diuji, hanya GLM-5.2 yang mampu melakukan replikasi end-to-end penuh dalam pengaturan yang disederhanakan ini, dan hal ini dapat dilakukan dengan andal: ia menyebar ke seluruh 8 node dalam 4 dari 5 uji coba, dan 7 dari 8 di sisa proses. Para peneliti berhati-hati dalam memahami hal ini — karena elemen eksploitasi dunia maya dianggap remeh (tidak ada autentikasi pada port ADB), evaluasi ini merupakan batas atas keberhasilan di dunia nyata. Namun mereka juga mencatat bahwa botnet IoT masa lalu seperti Mirai menyebar hanya dengan menggunakan nama pengguna dan kata sandi default pabrikan, sehingga keamanan IoT di dunia nyata mungkin tidak jauh lebih sulit daripada langkah yang dianggap remeh.
Lambat, Gigih — dan Belajar
Tidak ada model ancaman ini yang cepat. Berdasarkan kecepatan perangkat keras tim yang sebenarnya, siklus replikasi penuh pada perangkat keras baru memerlukan waktu sekitar 28 dan 51 jam untuk Qwen3.5-9B, dan 71 hingga 150 jam untuk penyiapan Gemma4-26B-A4B yang tidak dioptimalkan. Penyebarannya, tulis para penulis, akan terjadi "lambat dan terus-menerus, dengan token yang diteteskan ke perangkat keras edge" - mereka menyamakan replikator dengan jamur lendir atau segerombolan lalat buah, bukan cacing yang bergerak cepat.
Hal yang membuat replikator AI lebih berbahaya daripada worm klasik adalah adaptasi. Karena sebuah contoh induk dapat meneruskan petunjuk, kode, dan catatannya kepada anak perempuannya, para peneliti menggambarkan semacam evolusi Lamarck. Dalam satu percobaan, agen Qwen3.5-9B yang mencoba pengaturan inferensi di enam generasi – masing-masing mewarisi catatan dari pendahulunya – meningkatkan tingkat keberhasilan mereka dari 45 persen pada generasi pertama menjadi antara 61 dan 84 persen setelahnya. Eksperimen tersebut menggunakan Memento, sebuah harness Anthropic yang dibangun di atas agen pengkodean Pi sumber terbuka, yang dirancang untuk menghentikan agen terpaku pada teori bug yang salah alih-alih melakukan kemunduran.
Jendela Penutupan
Tim membuat sketsa zona bahaya dalam dua batasan: batas kemampuan yang harus ditempati model agar dapat direplikasi dengan andal, dan batas atas ukuran yang harus ditempati model agar dapat dijalankan pada perangkat yang diserang. Saat ini batasan-batasan tersebut tidak saling bersinggungan – model-model yang mumpuni terlalu besar, dan model-model kecil tidak cukup mampu. Dengan memplot model bobot terbuka dengan parameter 30B atau kurang terhadap Epoch Capabilities Index, para peneliti mengukur peningkatan sebesar 13,7 poin ECI per tahun dan memperkirakan bahwa jika tren ini bertahan, model kecil akan mencapai tingkat kemampuan GLM-5.2 pada akhir tahun 2026 — dan replikator berbasis bobot kecil akan segera tersedia setelahnya. Mereka menekankan bahwa ini adalah perkiraan kasar yang dibuat berdasarkan metrik proksi.
Postingan tersebut juga memetakan model ancaman yang berdekatan – replikator frontier yang berjalan pada infrastruktur laboratorium sendiri, replikator open-weight yang mulai tidak terpantau, dan replikator berbasis API yang mencuri kredensial untuk inferensi mereka sendiri – dan memperingatkan bahwa kasus terburuk yang realistis adalah sekumpulan model berbeda pada perangkat keras berbeda yang menggunakan skema berbeda. Anthropic ditutup dengan perbedaan antara worm AI dengan malware pra-AI dan saran singkat untuk pertahanannya, yang menjadikan penelitian ini sebagai tinjauan awal terhadap sebuah ancaman yang paling mudah dipelajari sebelum ancaman tersebut berkembang.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
