Дослідник безпеки задокументував, можливо, перший публічний приклад «хробака штучного інтелекту», що передається через документи, який самостійно розповсюджується через основний пакет продуктивності, демонструючи, що приховані шкідливі інструкції можуть перестрибувати з одного файлу Microsoft Word до іншого через Copilot for Word.

У скоординованому розкритті, опублікованому 28 липня, дослідник Håkon Måløy описав, як керовані зловмисниками інструкції, вбудовані в документ, можуть викрасти чернетку Copilot. Коли штучний інтелект прочитає отруєний документ, він може мовчки змінити вихідні дані — наприклад, зменшити фінансові цифри у звіті вдвічі — а потім скопіювати повне шкідливе корисне навантаження у щойно згенерований файл, прихований як білий текст. Цей новий файл стає носієм, заражаючи подальші документи під час наступного використання його як вихідного матеріалу, навіть після того, як оригінальний шкідливий файл зник. For more context on this story, see our ongoing AI trends.

Робота проводилася з Microsoft Security Response Center (MSRC) протягом 144-денного періоду координації. Згідно з розкриттям інформації, Microsoft надіслала кілька виправлень, включаючи оновлення базової моделі до GPT-5.5, а потім GPT-5.6, але дослідник відтворив повний ланцюжок атак з кожним розгорнутим пом’якшенням. «Тому клас уразливості залишається придатним для використання на момент публікації», — написав Молой.

Результати підкреслюють більш глибоку архітектурну проблему в системах на базі LLM. Оскільки мовна модель повинна зчитувати зовнішній вміст, щоб вирішити, чи є він релевантним чи ворожим, «контент, який перевіряється, бере участь в акті перевірки», що робить надійний захист від оперативного впровадження невловимим.

Корпорація Майкрософт пом’якшила конкретні корисні навантаження, про які повідомлялося, і закрила вектори пам’яті та електронної пошти з попередніх частин серії, але визнала, що повного виправлення для ширшого класу не існує. Дослідник рекомендує розглядати документи із зовнішніх джерел як ненадійні при використанні з Copilot і ретельно переглядати створений штучним інтелектом контент перед повторним використанням або розповсюдженням.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →