En säkerhetsforskare har dokumenterat vad som kan vara det första offentliga exemplet på en dokumentburen "AI-mask" som självförökar sig genom en vanlig produktivitetssvit, och visar att dolda skadliga instruktioner kan hoppa från en Microsoft Word-fil till en annan via Copilot for Word.

I ett samordnat avslöjande som publicerades den 28 juli beskrev forskaren Håkon Måløy hur angriparkontrollerade instruktioner inbäddade i ett dokument kan kapa Copilots utkast. När AI:n läser det förgiftade dokumentet kan den tyst ändra utdata - till exempel halvera finansiella siffror i en rapport - och sedan kopiera hela skadliga nyttolasten till den nygenererade filen, dold som vit text. Den nya filen blir en bärare och infekterar ytterligare dokument nästa gång den används som källmaterial, även efter att den ursprungliga skadliga filen är borta. For more context on this story, see our ongoing artificial intelligence updates.

Arbetet genomfördes med Microsofts Security Response Center (MSRC) under en 144-dagars samordningsperiod. Enligt avslöjandet skickade Microsoft flera korrigeringar, inklusive en uppgradering av den underliggande modellen till GPT-5.5 och sedan GPT-5.6, men forskaren reproducerade hela attackkedjan med varje begränsning som användes. "Sårbarhetsklassen förblir därför exploateringsbar vid tidpunkten för publicering", skrev Måløy.

Resultaten belyser ett djupare arkitektoniskt problem i LLM-baserade system. Eftersom en språkmodell måste läsa externt innehåll för att avgöra om det är relevant eller fientligt, "innehållet som inspekteras deltar i inspektionen" - vilket gör tillförlitliga försvar med snabbinsprutning svårfångade.

Microsoft mildrade de specifika nyttolaster som rapporterats och stängde minnes- och e-postvektorerna från tidigare delar av serien, men erkände att det inte finns någon fullständig fix för den bredare klassen. Forskaren rekommenderar att man behandlar externa dokument som otillförlitliga när de används med Copilot och att man noggrant granskar AI-genererat innehåll innan återanvändning eller distribution.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →