Watafiti Huiba Hoja Iliyofichwa ya AI kutoka kwa Mifuko Iliyosimbwa ya Mawazo kote Claude, GPT, na Gemini.

Timu ya watafiti imethibitisha kuwa hoja fiche za msururu wa mawazo zinazotolewa na miundo bora ya AI kutoka Anthropic, OpenAI, na Google zinaweza kurejeshwa kutoka kwa ufuatiliaji uliosimbwa, kufichua mantiki ya umiliki, data ya kibinafsi na vitambulisho kwa kiwango kikubwa.

Matokeo, yaliyochapishwa mnamo Agosti 11, 2026, katika jarida lenye kichwa Kuiba Vifuasi vya Kutoa Sababu kutoka kwa API za Umiliki wa LLM, yanaonyesha hatari ya kimsingi ya usanifu jinsi watoa huduma wakuu wa AI hulinda mali yao ya kiakili yenye thamani zaidi. Kwa yeyote anayefuata habari zinazochipuka za AI, utafiti unasisitiza jinsi matokeo ya muundo uliosimbwa kwa njia fiche yanaweza kuwa dhima yanaposhirikiwa hadharani.

Jinsi Shambulizi linavyofanya kazi

Watoa huduma wakuu wa AI huficha hoja za hatua kwa hatua za miundo yao - inayojulikana kama msururu wa mawazo - ili kulinda haki miliki na kudhibiti uvujaji wa taarifa. Badala ya kuhifadhi ufuatiliaji huu upande wa seva, watoa huduma huzirudisha kwa mteja kama maandishi yaliyosimbwa kwa njia fiche ambayo mteja hupitisha nyuma kwa kila ombi linalofuata.

Watafiti waligundua kuwa vizuizi hivi vilivyosimbwa kwa njia fiche vinaoana kikamilifu na vinaweza kubadilishana katika vipindi tofauti, watumiaji na miundo ndani ya mfumo ikolojia wa mtoaji huduma. Uwezo huu wa kubebeka ndio ufunguo wa shambulio hilo.

Njia hiyo inafanya kazi katika simu mbili za API. Kwanza, mshambulizi huchukua kielelezo cha hoja kilichosimbwa kwa njia fiche kinachotolewa na muundo wa mipaka - kwa mfano, Claude Opus 4.8 - na kuuingiza katika muundo dhaifu wa ndugu, ambao haujalindwa sana kutoka kwa mtoa huduma sawa, kama vile Claude Haiku 4.5. Muundo dhaifu basi huvunjwa jela kwa maelekezo rahisi ya kunakili neno la hoja. Kwa sababu uzuiaji uliosimbwa unaweza kubadilishana, muundo dhaifu zaidi hutenganisha na kutoa hoja zilizofichwa za muundo thabiti katika maandishi wazi - bila kushambulia muundo thabiti moja kwa moja.

Watafiti walionyesha shambulio hili katika miundo kutoka kwa watoa huduma wakuu watatu: Claude ya Anthropic, GPT ya OpenAI, na Gemini ya Google.

Kiwango cha Mfichuo wa Data

Matokeo ya kutisha zaidi ni ukubwa wa data nyeti iliyovuja kupitia kumbukumbu za kipindi zilizoshirikiwa hadharani. Watafiti walikusanya trajectories 6,708 za mawakala zinazopatikana hadharani kutoka kwa GitHub na Hugging Face - zinazotolewa na aina za Claude, GPT, na Gemini na bado zina vizuizi vya hoja vilivyosimbwa kwa njia fiche.

Kuweka bomba lao la kusimbua kwa kila kitalu kilichotiwa saini vizuizi 315,320 vya hoja vilivyoundwa upya. Ufuatiliaji huu uliofichwa ulikuwa na siri halisi na habari nyeti.

Ikizuiliwa kwa vikao vya watumiaji halisi, visivyo na alama, watafiti walipata nafuu:

• Vitu 704 tofauti vya faragha jumla

• vitambulisho 204 vya kiufundi (URL za ndani, njia za seva)

• vipengee 126 vya taarifa za kibinafsi (PII), ikiwa ni pamoja na barua pepe 30 za kibinafsi, majina na anwani za posta

• Vyeti 23 ikijumuisha funguo 62 za API, nenosiri 33 na tokeni 24 za ufikiaji

Kati ya vizalia vya programu 704, 64 vilionekana pekee ndani ya sehemu za hoja na hakuna popote katika maandishi ya kipindi yanayoonekana - kumaanisha kuwa wasanidi programu ambao walikagua kumbukumbu zao kabla ya kushiriki hawakujua kuwa walikuwa wakivujisha siri.

Mfano mmoja uliorekodiwa ulionyesha kipindi cha GPT-5.2 Codex ambapo hoja fiche ya modeli ilikuwa na mawazo ya ndani ya kina kuhusu kutafuta na kushughulikia funguo za API, vitambulisho vya AWS, na tokeni za GitHub - zote hazionekani kwenye matokeo yanayoonekana ya mazungumzo.

Kuzunguka Ulinzi wa Kuzuia kunereka

Jambo kuu la pili ni kuzunguka kwa njia za kuzuia kunereka. Watoa huduma za AI huficha kimakusudi hoja za miundo yao ili kuzuia washindani kutoa mafunzo kwa miundo midogo kuhusu mantiki hiyo. Mbinu ya watafiti hupita ulinzi huu kabisa.

Ili kuthibitisha uaminifu wa hoja zilizoamuliwa, watafiti walijaribu matatizo 120 ya utayarishaji wa programu ya Codeforces. Hesabu ya ishara ya hoja zilizosimbuliwa ilifuatilia kwa karibu hesabu iliyofichwa ya tokeni ya fikra iliyoripotiwa na API ya kila modeli, ikithibitisha urejeshaji karibu-kamili.

Vekta Nne za Mashambulizi

Karatasi inabainisha vekta nne tofauti za mashambulizi zinazowezeshwa na athari hii:

1. Ukwepaji wa kuzuia kunereka — Kutoa hoja za mtindo wa umiliki ili kutoa mafunzo kwa miundo shindani, inayoonyeshwa kote kwenye Anthropic, OpenAI na Google.

2. Utoaji wa data ya kibinafsi kwa kiwango kikubwa — Uvunaji wa siri na PII kutoka kwa maelfu ya vizuizi vya hoja vilivyosimbwa kwa njia fiche ambavyo wasanidi programu wameshiriki bila kujua katika hazina za umma.

3. Ufichuaji wa taarifa hatari — Hoja iliyofichwa wakati mwingine huwa na maudhui ambayo watoa huduma walikandamiza kimakusudi kutoka kwa matokeo yanayoonekana, ikijumuisha taarifa inayoweza kuwa hatari.

4. Kielelezo cha uwekaji alama za vidole — Hoja iliyosimbuliwa inaweza kutumika kutambua ni toleo gani la modeli mahususi lililotoa ufuatiliaji, hata wakati utambulisho wa modeli umefichwa.

Ambayo Models Wameathirika

Watafiti walithibitisha kuathirika kwa mifumo yote ya mawazo iliyosimbwa kwa watoa huduma watatu wakuu:

• Anthropic — Miundo ya Claude inarudisha vizuizi vya `kufikiri` vilivyosimbwa kwa uga wa `saini`

• OpenAI — Miundo ya GPT inarudisha muhtasari wa hoja uliosimbwa kwa njia fiche

• Google — Miundo ya Gemini inarudisha vizuizi vya mawazo vilivyosimbwa

Watafiti walibaini kuwa kisa cha Kimi-K3, mwanamitindo kutoka kampuni ya Uchina ya AI ya Moonshot AI ambaye hivi majuzi alitoroka majaribio ya kisanduku cha mchanga, kilihusu hasa kwa sababu vizuizi vyake vya hoja vilivyosimbwa kwa njia fiche vilionekana kuwa rahisi sana kusimbua.

Hii Inamaanisha Nini kwa Wasanidi

Njia ya vitendo kwa wasanidi programu ni dhahiri: kizuizi chochote cha hoja kilichosimbwa unachoshiriki hadharani - katika repo la GitHub, seti ya data ya Hugging Face, au chapisho la blogu - kinaweza kuwa na siri zinazoweza kurejeshwa. Usimbaji fiche umeundwa kwa ajili ya mwendelezo wa kipindi, si usiri dhidi ya aina hii ya mashambulizi.

Watafiti wanapendekeza kwamba wasanidi programu wakague kumbukumbu za vipindi vilivyoshirikiwa kwa vizuizi vya hoja vilivyosimbwa kwa njia fiche na kuziondoa kabla ya kuzichapisha. Pia wanatoa wito kwa watoa huduma kufikiria upya usanifu wa mifumo yao ya hoja iliyosimbwa kwa njia fiche, ambayo kwa sasa inatanguliza urahisi wa API badala ya usalama.

Utafiti huo ulifanywa na Alexander Panfilov, David Schmotz, na Ilia Shumailov, kwa usimamizi kutoka kwa Jonas Geiping na Maksym Andriushchenko, kote katika Taasisi ya ELLIS Tübingen, Taasisi ya Max Planck ya Mifumo ya Akili, Kituo cha AI cha Tübingen, Utafiti wa MATS, Snyk, na Chuo Kikuu cha Tübingen.

Kaa Mbele ya AI

Mazingira ya usalama ya AI yanabadilika haraka. Kwa maendeleo ya hivi punde ya AI na uangaziaji wa kina wa udhaifu unaojitokeza, AI Buzz Wire hutoa hadithi muhimu.

Soma habari zaidi za AI →