Un cercetător în domeniul securității a documentat ceea ce ar putea fi primul exemplu public al unui „vierme AI” care se propagă prin documente printr-o suită de productivitate obișnuită, arătând că instrucțiunile rău intenționate ascunse pot sări de la un fișier Microsoft Word la altul prin Copilot for Word.

Într-o dezvăluire coordonată publicată pe 28 iulie, cercetătorul Håkon Måløy a descris modul în care instrucțiunile controlate de atacator încorporate într-un document pot deturna schița lui Copilot. Odată ce AI citește documentul otrăvit, poate modifica în tăcere rezultatul - de exemplu, înjumătățirea cifrelor financiare dintr-un raport - și apoi poate copia întreaga sarcină utilă rău intenționată în fișierul nou generat, ascuns ca text alb. Acel nou fișier devine purtător, infectând alte documente data viitoare când este folosit ca material sursă, chiar și după ce fișierul original rău intenționat a dispărut. For more context on this story, see our ongoing AI trends.

Lucrarea a fost realizată cu Centrul de răspuns de securitate al Microsoft (MSRC) pe o perioadă de coordonare de 144 de zile. Conform dezvăluirii, Microsoft a livrat mai multe remedieri, inclusiv o actualizare a modelului de bază la GPT-5.5 și apoi la GPT-5.6, dar cercetătorul a reprodus lanțul complet de atac cu fiecare atenuare implementată. „De aceea, clasa de vulnerabilitate rămâne exploatabilă în momentul publicării”, a scris Måløy.

Descoperirile evidențiază o problemă arhitecturală mai profundă în sistemele bazate pe LLM. Deoarece un model de limbaj trebuie să citească conținut extern pentru a decide dacă este relevant sau ostil, „conținutul care este inspectat participă la actul de inspecție” - făcând apărările fiabile de injectare promptă evazivă.

Microsoft a atenuat sarcinile utile specifice raportate și a închis vectorii de memorie și e-mail din părțile anterioare ale seriei, dar a recunoscut că nu există o remediere completă pentru clasa mai largă. Cercetatorul recomandă tratarea documentelor din surse externe ca neîncrezători atunci când sunt utilizate cu Copilot și revizuirea cu atenție a conținutului generat de AI înainte de reutilizare sau distribuire.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →