Bir güvenlik araştırmacısı, belge kaynaklı bir "AI solucanının" ana akım bir üretkenlik paketi aracılığıyla kendi kendine yayılımına ilişkin halka açık ilk örneği belgeledi; bu, gizli kötü amaçlı talimatların Copilot for Word aracılığıyla bir Microsoft Word dosyasından diğerine atlayabildiğini gösterdi.

28 Temmuz'da yayınlanan koordineli bir açıklamada araştırmacı Håkon Måløy, bir belgeye yerleştirilmiş saldırgan tarafından kontrol edilen talimatların Copilot'un taslağını nasıl ele geçirebileceğini anlattı. Yapay zeka, zehirli belgeyi okuduğunda, çıktıyı sessizce değiştirebilir (örneğin, bir rapordaki mali rakamları yarıya indirebilir) ve ardından kötü amaçlı yükün tamamını, beyaz metin olarak gizlenmiş olarak yeni oluşturulan dosyaya kopyalayabilir. Bu yeni dosya bir taşıyıcı haline gelir ve bir dahaki sefere kaynak malzeme olarak kullanıldığında, orijinal kötü amaçlı dosya silindikten sonra bile başka belgelere bulaşır. For more context on this story, see our ongoing more AI stories.

Çalışma, 144 günlük bir koordinasyon süresi boyunca Microsoft'un Güvenlik Yanıt Merkezi (MSRC) ile gerçekleştirildi. Açıklamaya göre Microsoft, temel modelin GPT-5.5'e ve ardından GPT-5.6'ya yükseltilmesi de dahil olmak üzere çok sayıda düzeltme gönderdi ancak araştırmacı, uygulanan her hafifletici önlemle saldırı zincirinin tamamını yeniden oluşturdu. Måløy, "Dolayısıyla güvenlik açığı sınıfı yayınlandığı tarihte hâlâ kullanılabilir durumda" diye yazdı.

Bulgular, LLM tabanlı sistemlerde daha derin bir mimari sorunu vurgulamaktadır. Bir dil modelinin, ilgili veya düşmanca olup olmadığına karar vermek için harici içeriği okuması gerektiğinden, "incelenen içerik inceleme eylemine katılır"; bu da güvenilir hızlı enjeksiyon savunmalarını zorlaştırır.

Microsoft, bildirilen belirli yükleri azalttı ve serinin önceki bölümlerinden gelen bellek ve e-posta vektörlerini kapattı, ancak daha geniş sınıf için tam bir düzeltmenin mevcut olmadığını kabul etti. Araştırmacı, Copilot ile kullanıldığında harici kaynaklı belgelere güvenilmez muamelesi yapılmasını ve yapay zeka tarafından oluşturulan içeriğin yeniden kullanılmadan veya dağıtılmadan önce dikkatle incelenmesini öneriyor.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →