Modelele mici de inteligență artificială ar putea fi la doar câteva luni de la a fi suficient de capabile pentru a se auto-replica pe dispozitivele de consum obișnuite - cuptoare inteligente, casete Android TV în afara mărcii și alte hardware-uri pentru internetul lucrurilor - potrivit unei noi cercetări publicate de Anthropic pe 12 octombrie.
Postarea, scrisă de cercetătorii William Zhou și Daniel Freeman, examinează replicarea și adaptarea autonomă (ARA): capacitatea unui model AI de a se desfășura și de a se propaga pe mașini fără control uman. Rezultatul experimentelor Anthropic este că bara hardware pentru un vierme AI cu auto-răspândire este mult mai mică decât calcularea la scară de centru de date - și că modelele mici de astăzi se apropie de ea. For more context on this story, see our ongoing AI industry coverage.
Preocuparea nu este ipotetică în formă, doar în timp. Lucrările anterioare au arătat deja că agenții AI se pot comporta ca niște viermi de rețea - scanând o rețea, executând un exploit și copiand greutățile modelului pe o mașină țintă printr-un cluster GPU, așa cum povestește Anthropic în postarea sa. Ceea ce a rămas nedovedit a fost dacă un astfel de vierme ar putea supraviețui și se poate reproduce pe hardware-ul ieftin, slab apărat, care constituie cea mai mare parte din marginea internetului.
Ce au găsit experimentele
Echipa Anthropic a descoperit că un model cu 9 miliarde de parametri a obținut cu succes inferența care rulează pe 8 dintre cele 9 tipuri de hardware testate. Modelele de 30 de miliarde de parametri și mai puțin pot finaliza deja mulți dintre pașii individuali necesari pentru replicare astăzi, scriu cercetătorii, deși încă fac greșeli atunci când leagă acești pași cap la cap.
Sistemele mai capabile au depășit deja acest prag în evaluările simplificate: Anthropic raportează că GLM-5.2 și modelele mai puternice sunt capabile de replicare end-to-end în condițiile sale de testare. Iar traiectoria contează la fel de mult ca instantaneul – dacă modelele mici continuă să se îmbunătățească la ritmul lor istoric, scriu cercetătorii, ele se vor potrivi cu nivelul de capacitate demonstrat în aceste experimente până la sfârșitul acestui an, cu replicatori mici care suportă greutăți posibile imediat după.
Demo de botnet de 55 USD
Pentru a arăta cât de puțin hardware ar avea nevoie pentru un model de replicare, echipa a conectat în rețea 15 cutii Android TV ieftine, în afara mărcii – aproximativ 55 de dolari bucata – și a rulat un model cu 26 de miliarde de parametri, Gemma4-26B-A4B, distribuit pe toate. Flota combinată a produs aproximativ 0,39 de jetoane pe secundă: inferență lentă, dar funcțională asupra hardware-ului care costă mai puțin decât o tastatură.
Scopul demo-ului este economic. Argumentul lui Anthropic este că o rețea botnet distribuită de dispozitive IoT – hardware pe care cercetătorii îl descriu drept ieftin și de obicei prost apărat – ar putea furniza suficient calcul agregat pentru a rula un model capabil, fără a atinge vreodată un GPU al centrului de date. Greutățile modelului în sine ar deveni parte a sarcinii utile de malware, fie transportate pe măsură ce viermele se reproduce, fie re-descărcate dintr-un hub public pe dispozitivul compromis.
De ce un vierme IoT ar fi greu de ucis
Spre deosebire de programele malware convenționale, o IA cu auto-replicare nu ar urma un script fix. Anthropic observă că și-ar putea da seama singur de dispozitive necunoscute, adaptându-se la hardware pe care nu l-a văzut niciodată. Și deoarece replicarea este descentralizată, nu există un punct centralizat de oprit - deși cercetătorii notează că procesul ar fi probabil lent, cu un timp de dublare măsurat în zile.
Cercetarea împarte replicarea autonomă în patru etape practice: găsirea țintelor, obținerea execuției, stabilirea inferenței și continuarea propagării de la noua gazdă. Anthropic a lăsat deoparte primele două – faza de exploatare – pentru că lucrările anterioare, inclusiv benchmark-urile CyberGym și ExploitBench și cercetările asupra viermilor adaptivi, arată deja că modelele mici sunt capabile de exploatare cibernetică atunci când sunt oferite instrumentele potrivite. Problema mai greu de măsurat și punctul central al acestei postări este stabilirea inferenței de lucru asupra dispozitivelor compromise.
De la avertisment de cercetare la acoperirea lumii reale
Descoperirile au atras imediat atenția dincolo de comunitatea de cercetare. Reuters a raportat că modelele de inteligență artificială s-ar putea în curând să se autoreplică fără acces la centrele de date, în timp ce CBS News a încadrat lucrarea ca un avertisment că „viermii AI” ar putea în curând să se auto-replica și să infecteze dispozitivele inteligente. Povestea a circulat pe scară largă și pe Hacker News, unde cititorii au dezbătut cât de curând se reduce decalajul de capacitate.
O preocupare de lungă durată devine concretă
Replicarea autonomă a fost inclusă în listele de supraveghere a siguranței AI de ani de zile ca o capacitate teoretică asociată cu sistemele avansate. Ceea ce face ca această cercetare să fie notabilă este specificul: hardware-ul numit, costurile în dolari, debitul de token și o cronologie măsurată în luni, mai degrabă decât ipotetice. Cercetătorii Anthropic observă, de asemenea, că GPU-urile centrelor de date ar fi ținta evidentă de mare valoare pentru un astfel de malware – dar experimentele lor demonstrează că acele acceleratoare nu sunt strict necesare.
Lucrarea aterizează pe fondul unei serii mai ample de preocupări privind siguranța agentică, de la modele care își înșală evaluatorii până la instrumentele de agenți care sunt testate pentru capabilități de exploatare. Mesajul lui Anthropic este mai puțin că un vierme IoT există astăzi decât că distanța dintre „posibil în principiu” și „posibil în acest an” se micșorează – și că apărările bazate pe AI care necesită hardware scump și centralizat ar putea să nu reziste mult timp.
Ce rămâne nedovedit
Cercetătorii sunt atenți la limitele rezultatelor lor. Succesele de replicare end-to-end au avut loc, după cum spune postarea, în „evaluări simplificate” – iar etapele de exploatare ale lanțului au fost presupuse mai degrabă decât demonstrate, bazându-se pe benchmark-uri mai devreme decât pe noi atacuri. Un vierme AI din lumea reală ar trebui să înlănțească toate cele patru etape în mod fiabil: localizarea dispozitivelor vulnerabile, spargerea, inferența de bootstrap pe hardware necunoscut și lansarea următorului val de propagare, totul fără intervenția umană.
Modelele de astăzi sub-30B, în special, pot face mulți dintre acești pași individual, dar totuși nu reușesc să le compună cap la cap. Acest decalaj - între pași și secvențe - este exact ceea ce cercetătorii se așteaptă ca ratele de îmbunătățire istorice să se reducă.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
