Bezpečnostní výzkumník zdokumentoval možná první veřejný příklad „umělého červa“ přenášeného dokumenty, který se sám šíří prostřednictvím běžné sady produktivity, což ukazuje, že skryté škodlivé instrukce mohou přeskakovat z jednoho souboru Microsoft Word do druhého přes Copilot for Word.
V koordinovaném odhalení zveřejněném 28. července výzkumník Håkon Måløy popsal, jak útočníkem kontrolované instrukce vložené do dokumentu mohou unést Copilotův návrh. Jakmile AI přečte otrávený dokument, může tiše změnit výstup – například snížit finanční údaje ve zprávě na polovinu – a poté zkopírovat celý škodlivý obsah do nově vygenerovaného souboru skrytého jako bílý text. Tento nový soubor se stane nosičem a infikuje další dokumenty při příštím použití jako zdrojový materiál, a to i poté, co původní škodlivý soubor zmizí. For more context on this story, see our ongoing AI news.
Práce byla prováděna s Microsoft Security Response Center (MSRC) během 144denního koordinačního období. Podle zveřejněných informací společnost Microsoft dodala několik oprav, včetně upgradu základního modelu na GPT-5.5 a poté GPT-5.6, ale výzkumník reprodukoval celý řetězec útoků s každým nasazeným zmírněním. "Třída zranitelnosti proto zůstává zneužitelná v době zveřejnění," napsal Måløy.
Zjištění zdůrazňují hlubší architektonický problém v systémech založených na LLM. Protože jazykový model musí číst externí obsah, aby se rozhodl, zda je relevantní nebo nepřátelský, „kontrolovaný obsah se účastní aktu inspekce“ – takže spolehlivá obrana rychlého vložení je nepolapitelná.
Microsoft zmírnil konkrétní nahlášené užitečné zatížení a uzavřel paměťové a e-mailové vektory z dřívějších dílů série, ale uznal, že pro širší třídu neexistuje úplná oprava. Výzkumník doporučuje při použití s Copilotem považovat dokumenty z externích zdrojů za nedůvěryhodné a před opětovným použitím nebo distribucí pečlivě zkontrolovat obsah generovaný umělou inteligencí.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
