Badacz ds. bezpieczeństwa udokumentował prawdopodobnie pierwszy publiczny przykład „robaka AI” przenoszonego w dokumentach, który samodzielnie rozprzestrzenia się w głównym pakiecie produktywności, pokazując, że ukryte złośliwe instrukcje mogą przeskakiwać z jednego pliku Microsoft Word do drugiego za pośrednictwem Copilot for Word.

W skoordynowanym ujawnieniu opublikowanym 28 lipca badacz Håkon Måløy opisał, w jaki sposób instrukcje kontrolowane przez osobę atakującą zawarte w dokumencie mogą przejąć kontrolę nad wersją roboczą Copilota. Gdy sztuczna inteligencja odczyta zatruty dokument, może po cichu zmienić wynik — na przykład zmniejszyć o połowę dane finansowe w raporcie — a następnie skopiować cały szkodliwy ładunek do nowo wygenerowanego pliku, ukryty w postaci białego tekstu. Ten nowy plik staje się nośnikiem, infekując kolejne dokumenty przy następnym użyciu go jako materiału źródłowego, nawet po zniknięciu pierwotnego szkodliwego pliku. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Prace prowadzono we współpracy z Centrum reagowania na zabezpieczenia (MSRC) firmy Microsoft w ciągu 144-dniowego okresu koordynacyjnego. Zgodnie z ujawnieniem firma Microsoft dostarczyła wiele poprawek, w tym aktualizację podstawowego modelu do GPT-5.5, a następnie GPT-5.6, ale badacz odtworzył pełny łańcuch ataków z wszystkimi zastosowanymi środkami zaradczymi. „Dlatego w momencie publikacji ta klasa podatności pozostaje możliwa do wykorzystania” – napisał Måløy.

Odkrycia podkreślają głębszy problem architektoniczny w systemach opartych na LLM. Ponieważ model językowy musi czytać treści zewnętrzne, aby zdecydować, czy są one istotne, czy wrogie, „kontrolowana treść uczestniczy w akcie inspekcji” – co sprawia, że ​​niezawodne mechanizmy obronne polegające na natychmiastowym wstrzyknięciu stają się nieuchwytne.

Firma Microsoft złagodziła określone zgłaszane ładunki i zamknęła wektory pamięci i poczty e-mail z wcześniejszych części serii, ale przyznała, że ​​nie istnieje żadna kompletna poprawka dla szerszej klasy. Badacz zaleca traktowanie dokumentów pochodzących ze źródeł zewnętrznych jako niezaufanych w przypadku korzystania z oprogramowania Copilot i dokładne sprawdzanie treści wygenerowanych przez sztuczną inteligencję przed ponownym wykorzystaniem lub dystrybucją.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →