Model AI cilik bisa uga mung sawetara wulan supaya bisa nindakake replikasi dhewe ing piranti konsumen biasa - oven cerdas, kothak TV Android sing ora ana merek, lan piranti keras internet liyane - miturut riset anyar sing diterbitake dening Anthropic tanggal 12 Oktober.
Kiriman kasebut, sing ditulis dening peneliti William Zhou lan Daniel Freeman, mriksa replikasi lan adaptasi otonom (ARA) : kemampuan model AI kanggo nyebarake lan nyebarake dhewe ing mesin tanpa kontrol manungsa. Asil saka eksperimen Anthropic yaiku bar hardware kanggo cacing AI sing nyebar dhewe luwih murah tinimbang komputasi skala pusat data - lan model cilik saiki wis cedhak. For more context on this story, see our ongoing breaking AI news.
Keprigelan kasebut ora hipotetis ing wangun, mung ing wektu. Karya sadurunge wis nuduhake yen agen AI bisa tumindak kaya cacing jaringan - mindhai jaringan, nglakokake eksploitasi, lan nyalin bobot model menyang mesin target ing kluster GPU, kaya sing dicritakake Anthropic ing kiriman kasebut. Apa sing ora bisa dibuktekake yaiku apa cacing kasebut bisa urip lan ngasilake kanthi murah, piranti keras sing dibela kanthi lemah sing nggawe sebagian besar pinggiran internet.
Apa Eksperimen Ditemokake
Tim Anthropic nemokake manawa model parameter 9 milyar kasil entuk inferensi ing 8 saka 9 jinis hardware sing diuji. Model saka 30 milyar paramèter lan ngisor wis bisa ngrampungake akeh langkah-langkah individu sing dibutuhake kanggo replikasi saiki, para peneliti nulis, sanajan isih nggawe kesalahan nalika nyambungake langkah-langkah kasebut.
Sistem sing luwih mumpuni wis ngluwihi batesan ing evaluasi sing disederhanakake: Anthropic nglaporake manawa GLM-5.2 lan model sing luwih kuat bisa nindakake replikasi end-to-end ing kahanan tes. Lan lintasan penting kaya gambar gambar - yen model cilik terus nambah ing tingkat historis, para peneliti nulis, bakal cocog karo tingkat kemampuan sing dituduhake ing eksperimen kasebut ing pungkasan taun iki, kanthi replikator bobot cilik sing bisa ditindakake.
Demo Botnet $55
Kanggo nuduhake sepira sethithik hardware sing dibutuhake model replikasi, tim kasebut nggawe jaringan 15 kothak TV Android sing ora larang lan ora larang - kira-kira $ 55 saben - lan mbukak model 26 milyar parameter, Gemma4-26B-A4B, sing disebarake ing kabeh. Armada gabungan ngasilake kira-kira 0,39 token per detik: inferensi alon nanging fungsional ing hardware sing regane kurang saka keyboard.
Titik demo yaiku ekonomi. Argumentasi Anthropic yaiku botnet sing disebarake saka piranti IoT - hardware sing diterangake dening peneliti minangka murah lan biasane kurang dibela - bisa nyedhiyakake komputasi agregat sing cukup kanggo mbukak model sing bisa, tanpa ndemek GPU pusat data. Bobot model kasebut dhewe bakal dadi bagean saka muatan malware, sing digawa bebarengan nalika worm reproduksi utawa diundhuh maneh saka hub umum menyang piranti sing dikompromi.
Napa Cacing IoT Bakal Susah Dibunuh
Ora kaya malware konvensional, AI sing ngreplikasi dhewe ora bakal ngetutake skrip sing tetep. Cathetan Anthropic bisa ngerteni piranti sing ora pati ngerti dhewe, adaptasi karo hardware sing durung nate dideleng. Lan amarga replikasi desentralisasi, ora ana titik terpusat kanggo mateni - sanajan peneliti nyathet proses kasebut bakal alon-alon, kanthi wektu tikel kaping pirang-pirang dina.
Riset kasebut mbedakake replikasi otonom dadi papat tahap praktis: nemokake target, entuk eksekusi, nggawe inferensi, lan terus nyebarake saka host anyar. Anthropic umume nyisihake loro pisanan - fase eksploitasi - amarga karya sadurunge, kalebu benchmark CyberGym lan ExploitBench lan riset babagan cacing adaptif, wis nuduhake model cilik sing bisa eksploitasi cyber nalika diwenehi alat sing bener. Masalah sing luwih angel diukur, lan fokus ing kiriman iki, yaiku nggawe inferensi kerja ing piranti sing dikompromi.
Saka Peringatan Riset menyang Jangkoan Donya Nyata
Temuan kasebut langsung narik perhatian ngluwihi komunitas riset. Reuters nglaporake manawa model AI bisa uga enggal bisa replikasi dhewe tanpa akses menyang pusat data, dene CBS News nggawe karya kasebut minangka peringatan yen "cacing AI" bisa uga bisa ngreplikasi dhewe lan nginfeksi piranti cerdas. Crita kasebut uga nyebar ing Hacker News, ing ngendi para pamaca mbahas sepira suwene kesenjangan kemampuan ditutup.
Keprigelan sing wis suwe dadi beton
Replikasi otonom wis ana ing dhaptar pangawasan keamanan AI sajrone pirang-pirang taun minangka kemampuan teori sing ana gandhengane karo sistem canggih. Sing nggawe riset iki penting yaiku spesifik: hardware sing dijenengi, biaya dolar, throughput token, lan garis wektu sing diukur ing wulan tinimbang hipotetis. Peneliti Anthropic uga mirsani yen GPU pusat data bakal dadi target nilai dhuwur sing jelas kanggo malware kasebut - nanging eksperimen kasebut nuduhake akselerator kasebut ora perlu.
Pakaryan kasebut ana ing tengah-tengah masalah keamanan-agenik sing luwih akeh, saka model sing ngapusi para evaluator nganti piranti agen sing diselidiki kanggo kapabilitas eksploitasi. Pesen Anthropic kurang yen cacing IoT saiki ana tinimbang jarak antarane "kemungkinan ing prinsip" lan "kamungkinan taun iki" sempit - lan pertahanan sing didhasarake ing AI sing mbutuhake hardware terpusat sing larang bisa uga ora tahan suwe.
Apa Tetep Ora Kabukten
Para panaliti ngati-ati babagan watesan asile. Kasuksesan replikasi end-to-end dumadi, kaya sing dicritakake ing postingan kasebut, ing "evaluasi sing disederhanakake" - lan tahapan eksploitasi rantai kasebut dianggep tinimbang dituduhake, gumantung ing pathokan sadurunge tinimbang serangan anyar. Cacing AI ing donya nyata kudu ngubungake kabeh patang tahap kanthi andal: nemokake piranti sing rawan, mbobol, bootstrap inferensi ing hardware sing ora dingerteni, lan ngluncurake gelombang panyebaran sabanjure, kabeh tanpa campur tangan manungsa.
Model sub-30B saiki, utamane, bisa nindakake pirang-pirang langkah kasebut kanthi individu nanging isih gagal nyusun kabeh. Kesenjangan kasebut - ing antarane langkah lan urutan - persis apa sing dikarepake para peneliti yen tingkat dandan sejarah bakal ditutup.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
