Seorang peneliti keamanan telah mendokumentasikan apa yang mungkin menjadi contoh publik pertama dari "cacing AI" yang ditularkan melalui dokumen yang menyebar sendiri melalui rangkaian produktivitas umum, menunjukkan bahwa instruksi berbahaya yang tersembunyi dapat berpindah dari satu file Microsoft Word ke file lainnya melalui Copilot for Word.
Dalam pengungkapan terkoordinasi yang diterbitkan pada tanggal 28 Juli, peneliti Håkon Måløy menjelaskan bagaimana instruksi yang dikendalikan penyerang yang tertanam dalam dokumen dapat membajak penyusunan Copilot. Setelah AI membaca dokumen yang diracuni, AI dapat mengubah hasilnya secara diam-diam – misalnya, mengurangi separuh angka keuangan dalam laporan – dan kemudian menyalin seluruh muatan berbahaya ke dalam file yang baru dibuat, disembunyikan sebagai teks putih. File baru tersebut menjadi pembawa, menginfeksi dokumen selanjutnya saat digunakan lagi sebagai bahan sumber, bahkan setelah file asli yang berbahaya hilang. For more context on this story, see our ongoing AI trends.
Pekerjaan ini dilakukan dengan Security Response Center (MSRC) Microsoft selama periode koordinasi 144 hari. Berdasarkan pengungkapan tersebut, Microsoft mengirimkan beberapa perbaikan, termasuk pemutakhiran model dasar ke GPT-5.5 dan kemudian GPT-5.6, namun peneliti mereproduksi rantai serangan lengkap dengan setiap mitigasi yang diterapkan. “Oleh karena itu, kelas kerentanan masih dapat dieksploitasi pada saat publikasi ini,” tulis Måløy.
Temuan ini menyoroti masalah arsitektur yang lebih dalam dalam sistem berbasis LLM. Karena model bahasa harus membaca konten eksternal untuk memutuskan apakah konten tersebut relevan atau tidak, "konten yang diperiksa ikut serta dalam tindakan inspeksi" — membuat pertahanan injeksi cepat yang andal sulit dipahami.
Microsoft memitigasi muatan spesifik yang dilaporkan dan menutup vektor memori dan email dari bagian seri sebelumnya, namun mengakui bahwa tidak ada perbaikan lengkap untuk kelas yang lebih luas. Peneliti merekomendasikan untuk memperlakukan dokumen yang bersumber dari luar sebagai dokumen yang tidak dapat dipercaya ketika digunakan dengan Copilot dan meninjau secara cermat konten yang dihasilkan AI sebelum digunakan kembali atau didistribusikan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
