Mtafiti wa usalama ameandika kile kinachoweza kuwa mfano wa kwanza wa umma wa "AI worm" inayobeba hati inayojieneza yenyewe kupitia kitengo kikuu cha tija, kuonyesha kwamba maagizo mabaya yaliyofichwa yanaweza kuruka kutoka faili moja ya Microsoft Word hadi nyingine kupitia Copilot for Word.
Katika ufichuzi ulioratibiwa uliochapishwa mnamo Julai 28, mtafiti Håkon Måløy alielezea jinsi maagizo yanayodhibitiwa na washambulizi yaliyopachikwa kwenye hati yanaweza kuteka nyara uandishi wa Copilot. Mara tu AI inaposoma hati yenye sumu, inaweza kubadilisha matokeo kimyakimya - kwa mfano, kupunguza nusu ya takwimu za kifedha katika ripoti - na kisha kunakili mzigo kamili wa malipo hasidi kwenye faili mpya iliyotolewa, iliyofichwa kama maandishi meupe. Faili hiyo mpya inakuwa mtoa huduma, ikiambukiza hati zaidi inapotumiwa tena kama nyenzo chanzo, hata baada ya faili hasidi ya asili kutoweka. For more context on this story, see our ongoing artificial intelligence updates.
Kazi hiyo ilifanywa na Kituo cha Majibu ya Usalama cha Microsoft (MSRC) kwa muda wa siku 144 wa uratibu. Kulingana na ufichuzi huo, Microsoft ilisafirisha marekebisho mengi, ikijumuisha uboreshaji wa muundo msingi hadi GPT-5.5 na kisha GPT-5.6, lakini mtafiti alitoa msururu kamili wa mashambulizi kila upunguzaji ulivyotumwa. "Tabaka la kuathirika kwa hivyo linasalia kunyonywa wakati wa kuchapishwa," Måløy aliandika.
Matokeo yanaonyesha tatizo la kina la usanifu katika mifumo inayotegemea LLM. Kwa sababu muundo wa lugha lazima usome maudhui ya nje ili kuamua ikiwa yanafaa au yanachukiza, "maudhui yanayokaguliwa hushiriki katika kitendo cha ukaguzi" - kufanya ulinzi wa kuaminika wa kudunga papo hapo kuwa ngumu.
Microsoft ilipunguza upakiaji mahususi ulioripotiwa na kufunga kumbukumbu na vekta za barua pepe kutoka sehemu za awali za mfululizo, lakini ilikubali kuwa hakuna marekebisho kamili yaliyopo kwa darasa pana. Mtafiti anapendekeza kuchukulia hati zinazotoka nje kama zisizoaminika zinapotumiwa na Copilot na kukagua kwa uangalifu maudhui yanayozalishwa na AI kabla ya kutumiwa tena au kusambazwa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
