Miundo midogo ya AI inaweza kusalia miezi kadhaa tu kabla ya kuwa na uwezo wa kutosha wa kujinakili kwenye vifaa vya kawaida vya watumiaji - oveni mahiri, sanduku za Android TV zisizo na chapa, na maunzi mengine ya mtandao wa vitu - kulingana na utafiti mpya uliochapishwa na Anthropic mnamo Oktoba 12.
Chapisho hilo, lililoandikwa na watafiti William Zhou na Daniel Freeman, linachunguza urudiaji na urekebishaji wa uhuru (ARA): uwezo wa kielelezo cha AI kusambaza na kujitangaza kwenye mashine bila udhibiti wa binadamu. Mafanikio ya majaribio ya Anthropic ni kwamba upau wa maunzi wa mnyoo wa AI unaojieneza uko chini sana kuliko hesabu ya kituo cha data - na kwamba miundo midogo ya kisasa inakaribia kuishughulikia. For more context on this story, see our ongoing more AI stories.
Wasiwasi sio dhahania katika sura, tu katika wakati. Kazi ya awali tayari imeonyesha kuwa mawakala wa AI wanaweza kufanya kazi kama minyoo ya mtandao - kuchanganua mtandao, kutekeleza unyonyaji, na kunakili uzani wa mfano kwa mashine inayolengwa kwenye nguzo ya GPU, kama Anthropic inavyosimulia katika chapisho lake. Kilichobakia bila kuthibitishwa ni ikiwa mdudu kama huyo angeweza kuishi na kuzaliana kwa vifaa vya bei nafuu, vilivyolindwa dhaifu ambavyo vinaunda sehemu kubwa ya makali ya mtandao.
Kilichopatikana Majaribio
Timu ya Anthropic iligundua kuwa kielelezo cha kigezo cha bilioni 9 kilifaulu kupata makisio yanayoendeshwa kwenye aina 8 kati ya 9 za maunzi zilizojaribiwa. Miundo ya vigezo bilioni 30 na chini inaweza tayari kukamilisha hatua nyingi za mtu binafsi zinazohitajika kwa ajili ya kurudiwa leo, watafiti wanaandika, ingawa bado wanafanya makosa wakati wa kuunganisha hatua hizo pamoja mwisho hadi mwisho.
Mifumo yenye uwezo zaidi tayari imepita kiwango hicho katika tathmini zilizorahisishwa: Anthropic inaripoti kwamba GLM-5.2 na miundo imara zaidi inaweza kujinakilisha kutoka-mwisho chini ya masharti yake ya majaribio. Na mwelekeo ni muhimu kama vile muhtasari - ikiwa mifano ndogo itaendelea kuboreshwa kwa kiwango chao cha kihistoria, watafiti wanaandika, watalingana na kiwango cha uwezo kilichoonyeshwa katika majaribio haya mwishoni mwa mwaka huu, na vijinakilishi vidogo vya kubeba uzani vinavyowezekana hivi karibuni.
Onyesho la Botnet la $55
Ili kuonyesha jinsi maunzi madogo ya kielelezo cha kunakilia yangehitaji, timu iliweka mtandaoni visanduku 15 vya Android TV vya bei nafuu, visivyo na chapa - takriban $55 kila kimoja - na kuendesha kielelezo cha vigezo bilioni 26, Gemma4-26B-A4B, kilichosambazwa kote. Meli zilizojumuishwa zilizalisha takriban tokeni 0.39 kwa sekunde: polepole, lakini uelekezaji wa utendaji kazi kwenye maunzi ambayo yanagharimu chini ya kibodi.
Hoja ya demo ni ya kiuchumi. Hoja ya Anthropic ni kwamba botnet iliyosambazwa ya vifaa vya IoT - maunzi ambayo watafiti wanaelezea kuwa ya bei nafuu na ambayo hayatetewi kwa kawaida - yanaweza kutoa hesabu ya kutosha ya kuendesha muundo mzuri, bila kugusa GPU ya kituo cha data. Vipimo vya muundo vyenyewe vinaweza kuwa sehemu ya upakiaji wa programu hasidi, ama kubebwa kadiri mnyoo anavyojizalisha au kupakuliwa tena kutoka kwa kituo cha umma hadi kwenye kifaa kilichoathiriwa.
Kwa Nini Mdudu wa IoT Atakuwa Mgumu Kuua
Tofauti na programu hasidi ya kawaida, AI inayojirudia yenyewe haingefuata hati isiyobadilika. Maelezo ya anthropic inaweza kubaini vifaa visivyojulikana peke yake, ikibadilika na vifaa ambavyo hajawahi kuona. Na kwa sababu urudufishaji umegawanywa, hakuna sehemu kuu ya kuzima - ingawa watafiti wanaona mchakato huo unaweza kuwa polepole, na wakati unaopimwa mara mbili kwa siku.
Utafiti unagawanya uigaji wa uhuru katika hatua nne za vitendo: kutafuta shabaha, kupata utekelezaji, kuanzisha makisio, na kuendelea kueneza kutoka kwa mwenyeji mpya. Anthropic kwa kiasi kikubwa iliweka kando zile mbili za kwanza - awamu ya unyonyaji - kwa sababu kazi ya awali, ikiwa ni pamoja na vigezo vya CyberGym na ExploitBench na utafiti juu ya minyoo inayobadilika, tayari inaonyesha mifano ndogo ina uwezo wa unyonyaji wa mtandao inapopewa zana zinazofaa. Tatizo gumu-kupima, na lengo la chapisho hili, ni kuanzisha makisio ya kufanya kazi kwenye vifaa vilivyoathiriwa.
Kuanzia Tahadhari ya Utafiti hadi Habari Halisi ya Ulimwenguni
Matokeo yalivutia umakini wa haraka zaidi ya jamii ya watafiti. Shirika la habari la Reuters liliripoti kuwa hivi karibuni miundo ya AI inaweza kujinakilisha bila kufikia vituo vya data, huku CBS News ikiweka kazi hiyo kama onyo kwamba hivi karibuni "AI worms" inaweza kujinakilisha na kuambukiza vifaa mahiri. Hadithi hiyo pia ilisambazwa sana kwenye Habari za Hacker, ambapo wasomaji walijadili jinsi pengo la uwezo linazibika.
Hoja Ya Muda Mrefu Inapata Zege
Uigaji unaojiendesha umekaa kwenye orodha za usalama za AI kwa miaka kama uwezo wa kinadharia unaohusishwa na mifumo ya hali ya juu. Kinachofanya utafiti huu kujulikana ni umaalum: maunzi yaliyotajwa, gharama za dola, matokeo ya tokeni, na kalenda ya matukio inayopimwa kwa miezi badala ya dhahania. Watafiti wa Anthropic pia wanaona kuwa GPU za kituo cha data zingekuwa lengo dhahiri la thamani ya juu kwa programu hasidi - lakini majaribio yao yanaonyesha vichapuzi hivyo sio lazima kabisa.
Kazi hiyo inafanyika katikati ya msururu mpana wa masuala ya usalama wa wakala, kutoka kwa miundo inayowalaghai wakadiriaji wao hadi zana za mawakala zinazochunguzwa kwa ajili ya uwezo wao wa kutumia vibaya. Ujumbe wa Anthropic ni mdogo kwamba mdudu wa IoT yupo leo kuliko kwamba umbali kati ya "inawezekana kimsingi" na "inawezekana mwaka huu" unapungua - na kwamba ulinzi unaoegemezwa kwenye AI unaohitaji vifaa vya gharama kubwa, vya kati huenda usishike kwa muda mrefu.
Kinachobaki Bila Uthibitisho
Watafiti ni waangalifu juu ya mipaka ya matokeo yao. Mafanikio ya urudufishaji wa mwisho hadi mwisho yalitokea, kama chapisho linavyosema, katika "tathmini zilizorahisishwa" - na hatua za unyonyaji za msururu zilichukuliwa badala ya kuonyeshwa, zikiegemezwa kwenye vigezo vya awali badala ya mashambulizi mapya. Mnyoo wa ulimwengu halisi wa AI angehitaji kuunganisha hatua zote nne kwa uhakika: kupata vifaa vilivyo hatarini, kuvunja ndani, kuingiza ufahamu wa vifaa visivyojulikana, na kuzindua wimbi linalofuata la uenezi, yote bila kuingilia kati kwa mwanadamu.
Aina za kisasa za sub-30B, haswa, zinaweza kufanya nyingi za hatua hizo kibinafsi lakini bado zishindwe kuzitunga mwisho hadi mwisho. Pengo hilo - kati ya hatua na mlolongo - ndilo hasa ambalo watafiti wanatarajia viwango vya uboreshaji wa kihistoria kufungwa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
