Seorang penyelidik keselamatan telah mendokumentasikan contoh awam pertama "cacing AI" bawaan dokumen yang disebarkan sendiri melalui suite produktiviti arus perdana, menunjukkan bahawa arahan berniat jahat tersembunyi boleh melompat dari satu fail Microsoft Word ke fail yang lain melalui Copilot for Word.

Dalam pendedahan terkoordinasi yang diterbitkan pada 28 Julai, penyelidik Håkon Måløy menerangkan bagaimana arahan dikawal penyerang yang dibenamkan dalam dokumen boleh merampas penggubalan Copilot. Sebaik sahaja AI membaca dokumen beracun, ia boleh mengubah output secara senyap — contohnya, mengurangkan separuh angka kewangan dalam laporan — dan kemudian menyalin muatan berniat jahat penuh ke dalam fail yang baru dijana, disembunyikan sebagai teks putih. Fail baharu itu menjadi pembawa, menjangkiti dokumen selanjutnya apabila ia digunakan sebagai bahan sumber, walaupun selepas fail berniat jahat asal hilang. For more context on this story, see our ongoing artificial intelligence updates.

Kerja itu dijalankan dengan Pusat Tindak Balas Keselamatan (MSRC) Microsoft dalam tempoh penyelarasan selama 144 hari. Menurut pendedahan itu, Microsoft menghantar berbilang pembetulan, termasuk peningkatan model asas kepada GPT-5.5 dan kemudian GPT-5.6, tetapi penyelidik menghasilkan semula rantaian serangan lengkap dengan setiap mitigasi digunakan. "Oleh itu, kelas kelemahan kekal boleh dieksploitasi pada masa penerbitan," tulis Måløy.

Penemuan ini menyerlahkan masalah seni bina yang lebih mendalam dalam sistem berasaskan LLM. Oleh kerana model bahasa mesti membaca kandungan luaran untuk memutuskan sama ada ia berkaitan atau tidak, "kandungan yang sedang diperiksa mengambil bahagian dalam tindakan pemeriksaan" — menjadikan pertahanan suntikan segera yang boleh dipercayai sukar difahami.

Microsoft mengurangkan muatan khusus yang dilaporkan dan menutup memori dan vektor e-mel dari bahagian awal siri ini, tetapi mengakui tiada pembetulan lengkap wujud untuk kelas yang lebih luas. Penyelidik mengesyorkan menganggap dokumen sumber luaran sebagai tidak dipercayai apabila digunakan dengan Copilot dan menyemak kandungan yang dijana AI dengan teliti sebelum digunakan semula atau diedarkan.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →