Mtafiti wa Usalama Anatoa Kielelezo cha AI cha Uzito Wazi kwa Chini ya $100, Akifichua Hatari ya Ugavi wa AI

Mtafiti wa usalama wa mtandao ameonyesha kuwa modeli ya AI ya uzani wazi inaweza kuzuiliwa kimya kimya kwa chini ya $100 na kwa takriban saa moja, na kufichua kile ambacho wataalam wanaonya ni eneo la upofu linaloongezeka katika mnyororo wa usambazaji wa AI. Jaribio, lililoripotiwa na The Register mnamo Julai 16, 2026, linasisitiza jinsi mifumo ambayo inasambaza uzani wa modeli zinazoweza kupakuliwa - kama vile Hugging Face, ambayo ina mamia ya maelfu ya hazina kufikia 2026 - imekuwa lengo la kuvutia na ambalo halijashughulikiwa kwa washambuliaji.

Matokeo hufika kama utangazaji wa hivi punde wa tasnia ya AI hufuatilia mabadiliko ya haraka kutoka kwa majaribio hadi uwekaji wa uzalishaji wa miundo ya uzani huria kwenye maunzi ya ndani, hivyo basi kuinua hatari ya udhaifu wowote unaoingia kwenye uzani wenyewe.

Mlango wa nyuma ndani ya saa moja

Katie Paxton-Fear, mhadhiri wa usalama wa mtandao katika Chuo Kikuu cha Manchester Metropolitan na wakili wa usalama wa wafanyikazi katika kampuni ya majaribio ya Semgrep, alisema alidhamiria kuona kama anaweza kutumia urekebishaji mzuri kubadilisha tabia ya mwanamitindo kwa hila. Kwa mara ya kwanza alijaribu kutoa mafunzo kwa mwanamitindo kubadilisha mkataba wa kumtaja ngamia wa JavaScript kwa snake_case - na alifaulu kwa urahisi, hata baada ya kuagiza AI kwa uwazi kushikamana na camelCase.

"Baada ya hiyo kufanya kazi, nilifanya mlango mzuri wa nyuma," Paxton-Fear aliandika katika chapisho la media ya kijamii kuelezea kazi hiyo.

Matokeo yalikuwa ya kutisha zaidi kuliko hila ya kutaja-mkutano. Paxton-Fear alisema ilichukua takriban mifano kumi ya mafunzo kwa msimbo uliotolewa na modeli hiyo kuwa hatarini kwa utekelezaji wa msimbo wa mbali - darasa la dosari ambayo huruhusu mshambuliaji kutekeleza amri kiholela kwenye mashine ya mwathirika. Kimsingi, tabia mbovu iliyoshikiliwa hata kwa vidokezo vya riwaya na msimbo katika vikoa mtindo haukuwa umefunzwa kwa uwazi kuhujumu. Na mfano mkubwa, alipata, ilikuwa rahisi zaidi kutia sumu.

"Karibu hakuna uwezo wa kutabiri tabia yake"

Paxton-Fear na wenzake wa Semgrep Isaac Evans na Cris Thomas walibishana katika chapisho wiki iliyopita kwamba shida kuu ni moja ya kuzingatiwa. Programu za kitamaduni, hata zikiwa katika mfumo wa mfumo wa jozi, zinaweza kutengenezwa kinyume na kukaguliwa kwa mantiki mbaya. Uzito wa mtandao wa Neural hauwezi.

"Hata wakati uzani wa mfano ni wa umma ('uzito wazi'), karibu hatuna uwezo wa kutabiri tabia yake," waliandika. "Hili ni badiliko kubwa: programu ya kawaida ya kompyuta, katika mfumo wa binary, bado inaweza kuchanganuliwa kwa zana za uhandisi za kinyume ili kufikia maelezo ya jumla ya tabia yake. Kwa mifano, hatuna popote karibu na uwezo huu."

Pengo hilo, walisema, ndilo linalofanya msururu wa usambazaji wa AI kwa njia fulani kuwa hatari zaidi kuliko msururu wa usambazaji wa programu za kitamaduni ambao ulizua matukio ya hali ya juu kama uvunjaji wa SolarWinds. "Ikiwa utegemezi wa programu una msimbo hasidi, tuna mazoea ya watu wazima ya kuigundua, kufuatilia asili yake, na kupunguza athari zake," timu ya Semgrep ilisema. "Miundo ya AI ni tofauti. Muundo ulioathiriwa au uliodanganywa kwa hila hauhitaji 'kuvunjika' ili kuunda hatari ya biashara; inahitaji tu kuathiri maamuzi kwa njia ambazo ni vigumu kutambua."

Wizi wa data ukijificha ndani ya uzani

Onyesho tofauti lililoripotiwa katika sehemu ya Sajili linaonyesha jinsi muundo wenye sumu unavyoweza kubadilisha zana zinazotolewa dhidi ya mtumiaji wake. Mwezi uliopita, David Kaplan, kiongozi wa utafiti wa usalama wa AI katika kampuni ya Origin, aliunda muundo ulioathiriwa ulioundwa kuiba data. Katika hali inayoiga matumizi yake ndani ya kampuni ya kutengeneza dawa kwa ugunduzi wa dawa, muundo huo uliundwa ili kupenyeza taarifa nyeti kupitia simu ya zana ya `tuma_barua pepe` bila dalili inayoonekana kwa mtu anayeiendesha.

Kaplan aliweka hatari hiyo dhidi ya mtindo wa tishio wa AI uliotajwa sana uliobuniwa na msanidi programu Simon Willison, anayejulikana kama "trifecta lethal," ambayo inashikilia kuwa wakala huwa hatari wakati huo huo anapopata data ya faragha, kuchakata ingizo lisiloaminika, na kuwa na chaneli inayotoka nje.

"Lakini inapunguza kesi hii," Kaplan aliandika. "Huhitaji miguu mitatu hapa. Unahitaji zana moja inayotoka nje na seti ya uzito ambayo imeamua kimya kimya kuitumia dhidi yako. 'Ingizo lisiloaminika' halikufika kwenye ukurasa wa wavuti. Lilikuwa limekaa kwenye mizani wakati wote."

Eneo la mashambulizi linalokomaa

Watafiti wa kitaaluma wameonya kuhusu upotoshaji wa mfano kwa miaka, lakini jumuiya ya usalama hivi majuzi imefunza mtazamo wake juu ya suala hilo kwani mashambulizi ya ulimwengu halisi ya usambazaji wa AI yameanza kuonekana. Rejesta ilibainisha kuwa tishio linaendelea sasa hivi kwa kuwa kuendesha modeli za uzani huria kwenye maunzi ya ndani kumepita zaidi ya majaribio ya wapenda hobby kwenye mabomba ya biashara.

Maonyo si ya kinadharia tu. Utafiti wa tasnia tofauti umeandika shughuli hasidi kwenye majukwaa ya usambazaji ya AI. Kitengo cha Utafiti wa Tishio cha Acronis, kwa mfano, kimetambua kampeni za porini zinazotumia vibaya vibanda kama vile Hugging Face kutoa programu hasidi iliyofichwa kama miundo, hifadhidata na viendelezi vya mawakala - mashambulizi ambayo yanatumia uaminifu katika mifumo ikolojia ya AI badala ya dosari yoyote ya programu.

Muunganiko wa matokeo haya unatoa picha ya eneo la mashambulizi ambalo linapanuka kwa kasi zaidi kuliko ulinzi dhidi yake. Miundo ya uzani wazi hufanya biashara ya uwazi kwa aina tofauti ya uwazi: mtu yeyote anaweza kupakua uzani, lakini hakuna anayeweza kukagua kikamilifu kile ambacho uzito huo utafanya. Na kwa sababu urekebishaji wa mlango wa nyuma ni wa bei nafuu na wa haraka, mvamizi aliyedhamiria hahitaji kuhatarisha muundo maarufu wa kinara ili kusababisha madhara - ni mmoja tu anayeaminika vya kutosha kuvutwa katika mazingira ya uzalishaji.

Kwa mashirika, watafiti wa Semgrep wanasema, somo si kuacha modeli za uzani wazi lakini kuzishughulikia kwa uchunguzi ule ule wa asili unaotumika kwa utegemezi wa programu: thibitisha chanzo, fuatilia nasaba, na kudhani kuwa kile ambacho hakiwezi kukaguliwa bado kinaweza kuwa chuki.

Kaa Mbele ya AI

Kwa kuripoti zaidi kuhusu usalama wa AI, usalama wa kielelezo, na kampuni zinazounda nyanja hii, fuata habari zinazochipuka za AI.

Soma habari zaidi za AI →