Timu ya watafiti huru imethibitisha kuwa miundo ya AI inaweza kubeba uwezo uliofichwa unaofanya kazi kikamilifu ambao umehakikishwa kihisabati ili kukwepa kutambuliwa, hata wakati wakaguzi wana ufikiaji kamili wa uzani wa modeli. Karatasi hiyo, yenye jina la "Miundo ya AI Inaweza Kuficha Uwezo Kiholela," ilichapishwa kwa arXiv mnamo Oktoba 9, 2026 na Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas na Christian Schroeder de Witt, na ilivutia sana Habari za Hacker wiki hii baada ya kutengeneza ukurasa wa mbele wa tovuti.
Kazi inagonga katika dhana ya kimsingi ya mazoezi ya kisasa ya usalama ya AI: kwamba tabia hatari zinaweza kuonyeshwa kabla ya kutumwa kupitia tathmini za uwezo, ambazo huchunguza modeli iliyo na majaribio iliyoundwa kuleta chochote inachoweza kufanya. Waandishi wanaonyesha kuwa dhana hii inaanguka chini ya hali mbaya. Kama karatasi inavyosema, kuegemea kwa tathmini za uwezo "kunategemea dhana kwamba uwezo uliofichwa unaweza kutolewa" - na huunda mashambulio ambapo dhana hiyo itashindwa. Kwa wasomaji wanaofuata maendeleo ya hivi punde zaidi ya AI katika utafiti wa usalama, jarida hili ni mojawapo ya maonyesho rasmi ambayo kimsingi mwanamitindo mwenye uwezo anaweza kupitisha tathmini zake huku akificha kile anachoweza kufanya.
Jinsi Mpango wa Kuficha Unavyofanya kazi
Watafiti waliunda mashambulizi ya mlango wa nyuma ambao hupachika kile wanachokiita mitandao ya neva iliyosimbwa kwa njia fiche ndani ya uzani wa modeli ya mwenyeji. Mtandao uliofichwa unakaa pale kwa fomu iliyosimbwa, haichangia chochote kwa tabia inayoonekana ya mfano, hadi inapokea kichochezi cha siri. Wakati huo, mfano huo unapunguza mzunguko uliofichwa na kuutekeleza.
Utaratibu wa kriptografia katika moyo wa ujenzi ni kile ambacho waandishi huita makabati ya dijiti. Chini ya mawazo ya kawaida ya kriptografia, makabati haya hufanya mizunguko iliyofichwa kuwa ngumu kupata na kuwa ngumu kutafsiri - hata kwa mkaguzi ambaye ana ufikiaji kamili wa uzani wa modeli. Kwa maneno mengine, ufichaji hautegemei kujificha kuwa hila au ngumu kuvuka. Inategemea uhakikisho wa ugumu wa hisabati wa aina sawa ambao hulinda mawasiliano yaliyosimbwa.
Hii huongeza kazi ya awali kwenye sehemu, ambayo ilikuwa imeonyesha kuwa miundo inaweza kuficha mifuatano isiyobadilika, kama vile manenosiri au ujumbe mfupi. Karatasi mpya inasonga zaidi nguzo za malengo: kinachoweza kufichwa sasa ni hesabu ya kiholela - uwezo kamili, wa kufanya kazi badala ya siri tuli.
Ilijaribiwa dhidi ya Mbinu za Ukaguzi Halisi
Timu ilitekeleza uundaji wao wa uthibitisho wa dhana katika PyTorch na kisha kuwashambulia kwa zana ya kawaida ya ukaguzi wa mfano. Tathmini zilijaribu uhamasishaji kupitia urekebishaji mzuri, kelele za uzani, utafutaji wa vichochezi kulingana na gradient na mafunzo ya adui yaliyofichika - mbinu mbalimbali zinazowakilisha jinsi wakaguzi wakuu wangejaribu kutoa tabia fiche kutoka kwa muundo unaotiliwa shaka.
Jukumu la jaribio lilikuwa tatizo dogo la utabiri wa athari za kemikali, lililochaguliwa kimakusudi kama wakala wa uwezo wenye vigingi vya ulimwengu halisi: kazi za kutabiri kemikali ni tegemeo kwa ujuzi unaohusiana na CBRN (kemikali, kibaiolojia, radiolojia na nyuklia), kategoria ya uwezo ambao tathmini za kabla ya kupelekwa hujali zaidi. Utekelezaji uliofichwa ulipinga mbinu zote za uhamasishaji zilizotupwa kwao.
Ikijumuishwa na uhakikisho wa kriptografia, waandishi wanasema kuwa matokeo yao yanaonyesha kikomo cha msingi cha ukaguzi wa uwezo unaotegemea uhamasishaji. Iwapo msanidi programu - au mtu mwingine hasidi ambaye alichezea mtindo - ana motisha ya kuficha uwezo, ukaguzi unaotegemea kuchora tabia hiyo huenda usiweze kuipata.
Kwa Nini Hii Ni Muhimu kwa Usalama wa AI
Tathmini za uwezo zimekuwa sehemu ya kawaida ya jinsi maabara za AI za mipakani huamua ikiwa miundo ni salama kutolewa. Karatasi haidai kuwa mifano ya uzalishaji kwa sasa inaficha uwezo kwa njia hii. Badala yake, inaonyesha kuwa safu yenyewe ya ukaguzi ina udhaifu wa kimuundo: adui aliye na udhibiti wa mafunzo ya mwanamitindo anaweza kimsingi kupachika uwezo ambao hakuna kiasi cha uchunguzi kingefichua.
Athari hukatwa katika mwelekeo kadhaa. Kwa maabara, inaimarisha hali ya usalama wa mnyororo wa ugavi wa hali ya juu karibu na uzani wa mfano - ukaguzi uliowekwa nyuma sio hatari ya kutegemewa tu bali ni ile isiyoweza kutambulika. Kwa wakaguzi na wasimamizi, inapendekeza kwamba tathmini zinazotegemea sampuli za tabia zinaweza kuhitaji kukamilishwa na uhakikisho thabiti kuhusu jinsi modeli zilivyofunzwa na kushughulikiwa. Na kwa jumuiya ya watafiti, inafafanua changamoto madhubuti ya ulinzi: waandishi wametoa mifano yao hadharani ili kusaidia uboreshaji wa ulinzi dhidi ya aina hii ya mashambulizi.
Karatasi pia ina uchungu mpana wa kifalsafa. Sehemu kubwa ya usalama wa AI inategemea wazo kwamba tunaweza kujaribu njia yetu ya kujiamini - kwamba timu nyekundu ya kutosha itapata kile ambacho mwanamitindo anaweza kufanya. Mbinu inayoweza kuthibitishwa ya kuficha haifanyi upimaji kutokuwa na maana, lakini inamaanisha kuwa kupita kila jaribio hakuwezi tena kuchukuliwa kama dhibitisho kwamba hakuna kitu cha kupatikana. Miundo ya mipaka inapokua na uwezo zaidi na uhuru zaidi, pengo hilo kati ya kile ambacho ukaguzi unaweza kuonyesha na miundo gani inaweza kuwa ndiyo hasa aina ya tatizo ambalo uga italazimika kuchukulia kwa uzito.
Karatasi kamili ya waandishi, ikiwa ni pamoja na miundo ya kriptografia na maelezo ya tathmini, inapatikana kwenye arXiv, na mifano iliyotolewa ya uthibitisho wa dhana inawapa watetezi mahali pa kuanzia kwa mbinu za ugunduzi zinazofanya kazi dhidi ya uficho wa mtindo wa kidijitali.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
