Model AI kecil mungkin hanya beberapa bulan sahaja lagi daripada cukup mampu untuk mereplikasi sendiri pada peranti pengguna biasa — ketuhar pintar, kotak TV Android luar jenama dan perkakasan internet-of-things yang lain — menurut penyelidikan baharu yang diterbitkan oleh Anthropic pada 12 Oktober.
Siaran itu, yang ditulis oleh penyelidik William Zhou dan Daniel Freeman, mengkaji replikasi dan penyesuaian autonomi (ARA): keupayaan model AI untuk menggunakan dan menyebarkan dirinya ke seluruh mesin tanpa kawalan manusia. Hasil daripada eksperimen Anthropic ialah bar perkakasan untuk cecacing AI yang merebak sendiri jauh lebih rendah daripada pengiraan skala pusat data — dan model kecil hari ini semakin mendekatinya. For more context on this story, see our ongoing breaking AI news.
Kebimbangan itu tidak berbentuk hipotesis, hanya pada masa. Kerja sebelum ini telah menunjukkan bahawa ejen AI boleh berkelakuan seperti cecacing rangkaian — mengimbas rangkaian, melaksanakan eksploitasi dan menyalin pemberat model ke mesin sasaran merentas kluster GPU, seperti yang diceritakan oleh Anthropic dalam siarannya. Apa yang masih belum dibuktikan ialah sama ada cacing sebegitu boleh bertahan dan membiak pada perkakasan murah yang dipertahankan dengan lemah yang membentuk sebahagian besar kelebihan internet.
Perkara yang Ditemui oleh Eksperimen
Pasukan Anthropic mendapati bahawa model 9 bilion parameter berjaya mendapat inferens yang dijalankan pada 8 daripada 9 jenis perkakasan yang diuji. Model 30 bilion parameter dan ke bawah sudah boleh melengkapkan banyak langkah individu yang diperlukan untuk replikasi hari ini, tulis para penyelidik, walaupun mereka masih melakukan kesilapan apabila merantai langkah tersebut bersama-sama hujung ke hujung.
Sistem yang lebih berkebolehan sudah melepasi ambang itu dalam penilaian yang dipermudahkan: Anthropic melaporkan bahawa GLM-5.2 dan model yang lebih kukuh mampu melakukan replikasi hujung ke hujung di bawah keadaan ujiannya. Dan trajektori itu penting seperti gambar - jika model kecil terus bertambah baik pada kadar sejarahnya, para penyelidik menulis, mereka akan sepadan dengan tahap keupayaan yang ditunjukkan dalam eksperimen ini menjelang akhir tahun ini, dengan replikator pembawa berat kecil mungkin tidak lama lagi.
Demo Botnet $55
Untuk menunjukkan betapa sedikit perkakasan yang diperlukan oleh model replikasi, pasukan itu merangkaikan 15 kotak TV Android yang tidak mahal dan luar jenama - kira-kira $55 setiap satu - dan menjalankan model 26 bilion parameter, Gemma4-26B-A4B, yang diedarkan pada kesemuanya. Armada gabungan menghasilkan kira-kira 0.39 token sesaat: inferens yang perlahan tetapi berfungsi pada perkakasan yang berharga kurang daripada papan kekunci.
Maksud demo adalah ekonomi. Hujah Anthropic ialah botnet teragih peranti IoT — perkakasan yang disifatkan oleh penyelidik sebagai murah dan biasanya kurang dipertahankan — boleh membekalkan pengiraan agregat yang mencukupi untuk menjalankan model yang berkebolehan, tanpa menyentuh GPU pusat data. Pemberat model itu sendiri akan menjadi sebahagian daripada muatan perisian hasad, sama ada dibawa bersama semasa cecacing membiak atau dimuat turun semula dari hab awam ke peranti yang terjejas.
Mengapa Cacing IoT Sukar Dibunuh
Tidak seperti perisian hasad konvensional, AI yang mereplikasi sendiri tidak akan mengikut skrip tetap. Nota Anthropic ia boleh mengetahui peranti yang tidak dikenali dengan sendirinya, menyesuaikan diri dengan perkakasan yang tidak pernah dilihatnya. Dan kerana replikasi adalah terdesentralisasi, tidak ada titik terpusat untuk dimatikan - walaupun penyelidik mendapati proses itu mungkin akan perlahan, dengan masa penggandaan diukur dalam beberapa hari.
Penyelidikan memecahkan replikasi autonomi kepada empat peringkat praktikal: mencari sasaran, memperoleh pelaksanaan, mewujudkan inferens, dan meneruskan penyebaran daripada hos baharu. Anthropic sebahagian besarnya mengetepikan dua yang pertama — fasa eksploitasi — kerana kerja awal, termasuk penanda aras CyberGym dan ExploitBench dan penyelidikan mengenai cacing penyesuaian, sudah menunjukkan model kecil mampu melakukan eksploitasi siber apabila diberikan alat yang betul. Masalah yang lebih sukar untuk diukur, dan fokus siaran ini, ialah mewujudkan inferens yang berfungsi pada peranti yang terjejas.
Daripada Amaran Penyelidikan kepada Liputan Dunia Nyata
Penemuan itu menarik perhatian segera di luar komuniti penyelidikan. Reuters melaporkan bahawa model AI mungkin tidak lama lagi dapat mereplikasi sendiri tanpa akses kepada pusat data, manakala CBS News merangka kerja itu sebagai amaran bahawa "cacing AI" mungkin tidak lama lagi dapat mereplikasi sendiri dan menjangkiti peranti pintar. Kisah ini juga disebarkan secara meluas di Berita Hacker, di mana pembaca membahaskan berapa lama jurang keupayaan akan ditutup.
Kebimbangan Lama Menjadi Konkrit
Replikasi autonomi telah menduduki senarai pantau keselamatan AI selama bertahun-tahun sebagai keupayaan teori yang dikaitkan dengan sistem lanjutan. Apa yang menjadikan penyelidikan ini ketara ialah kekhususan: perkakasan yang dinamakan, kos dolar, daya pengeluaran token dan garis masa yang diukur dalam bulan dan bukannya hipotetikal. Penyelidik Anthropic juga memerhatikan bahawa GPU pusat data akan menjadi sasaran nilai tinggi yang jelas untuk perisian hasad tersebut — tetapi eksperimen mereka menunjukkan pemecut tersebut tidak begitu diperlukan.
Kerja itu mendarat di tengah-tengah kebimbangan keselamatan agenik yang lebih luas, daripada model yang memperdaya penilai mereka kepada perkakas ejen yang disiasat untuk keupayaan mengeksploitasi. Mesej Anthropic adalah kurang bahawa cecacing IoT wujud hari ini berbanding jarak antara "kemungkinan pada dasarnya" dan "kemungkinan tahun ini" semakin mengecil — dan bahawa pertahanan berasaskan AI yang memerlukan perkakasan terpusat yang mahal mungkin tidak bertahan lama.
Apa yang Masih Tidak Terbukti
Para penyelidik berhati-hati tentang had keputusan mereka. Kejayaan replikasi hujung-ke-hujung berlaku, seperti yang dinyatakan oleh siaran itu, dalam "penilaian dipermudahkan" — dan peringkat eksploitasi rantaian diandaikan dan bukannya ditunjukkan, bergantung pada penanda aras awal dan bukannya serangan baharu. Cacing AI dunia sebenar perlu merantai keempat-empat peringkat dengan pasti: mengesan peranti yang terdedah, menceroboh masuk, membuat inferens bootstrap pada perkakasan yang tidak dikenali dan melancarkan gelombang penyebaran seterusnya, semuanya tanpa campur tangan manusia.
Model sub-30B hari ini, terutamanya, boleh melakukan banyak langkah tersebut secara individu tetapi masih gagal menyusunnya dari hujung ke hujung. Jurang itu - antara langkah dan urutan - adalah tepat apa yang para penyelidik jangkakan kadar peningkatan sejarah akan ditutup.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
