นักวิจัยด้านความปลอดภัยได้บันทึกสิ่งที่อาจเป็นตัวอย่างแรกต่อสาธารณะของ "หนอน AI" ที่เป็นเอกสารซึ่งแพร่กระจายด้วยตนเองผ่านชุดเพิ่มประสิทธิภาพการทำงานหลัก ซึ่งแสดงให้เห็นว่าคำสั่งที่เป็นอันตรายที่ซ่อนอยู่สามารถกระโดดจากไฟล์ Microsoft Word หนึ่งไปยังอีกไฟล์หนึ่งผ่าน Copilot for Word

ในการเปิดเผยข้อมูลที่มีการประสานงานซึ่งเผยแพร่เมื่อวันที่ 28 กรกฎาคม นักวิจัย Håkon Måløy อธิบายว่าคำสั่งที่ผู้โจมตีควบคุมซึ่งฝังอยู่ในเอกสารสามารถขโมยการร่างของ Copilot ได้อย่างไร เมื่อ AI อ่านเอกสารที่ถูกวางยาพิษ มันจะสามารถแก้ไขผลลัพธ์อย่างเงียบๆ เช่น ลดตัวเลขทางการเงินลงครึ่งหนึ่งในรายงาน จากนั้นคัดลอกเพย์โหลดที่เป็นอันตรายทั้งหมดลงในไฟล์ที่สร้างขึ้นใหม่ โดยปกปิดเป็นข้อความสีขาว ไฟล์ใหม่ดังกล่าวจะกลายเป็นพาหะ ซึ่งจะแพร่ระบาดในเอกสารเพิ่มเติมในครั้งถัดไปที่ใช้เป็นแหล่งข้อมูล แม้ว่าไฟล์ที่เป็นอันตรายดั้งเดิมจะหายไปแล้วก็ตาม For more context on this story, see our ongoing artificial intelligence updates.

งานนี้ดำเนินการร่วมกับ Security Response Center (MSRC) ของ Microsoft ภายในระยะเวลาประสานงาน 144 วัน ตามการเปิดเผย Microsoft ได้จัดส่งการแก้ไขหลายอย่าง รวมถึงการอัปเกรดรุ่นพื้นฐานเป็น GPT-5.5 และ GPT-5.6 แต่ผู้วิจัยได้สร้างห่วงโซ่การโจมตีขึ้นมาใหม่พร้อมกับการบรรเทาทุกรูปแบบ “ระดับช่องโหว่จึงยังคงสามารถหาประโยชน์ได้ในขณะที่เผยแพร่” Måløy เขียน

การค้นพบนี้เน้นย้ำถึงปัญหาทางสถาปัตยกรรมที่ลึกซึ้งยิ่งขึ้นในระบบที่ใช้ LLM เนื่องจากโมเดลภาษาต้องอ่านเนื้อหาภายนอกเพื่อตัดสินใจว่าเนื้อหานั้นเกี่ยวข้องหรือไม่เป็นมิตร "เนื้อหาที่ได้รับการตรวจสอบมีส่วนร่วมในการตรวจสอบ" — ทำให้การป้องกันการฉีดทันทีที่เชื่อถือได้เป็นเรื่องยาก

Microsoft ได้บรรเทาเพย์โหลดเฉพาะที่รายงานและปิดเวกเตอร์หน่วยความจำและอีเมลจากส่วนก่อนหน้าของซีรีส์นี้ แต่ยอมรับว่าไม่มีการแก้ไขที่สมบูรณ์สำหรับคลาสที่กว้างขึ้น ผู้วิจัยแนะนำให้ปฏิบัติต่อเอกสารที่มาจากภายนอกว่าไม่น่าเชื่อถือเมื่อใช้กับ Copilot และตรวจสอบเนื้อหาที่สร้างโดย AI อย่างรอบคอบก่อนนำมาใช้ซ้ำหรือแจกจ่าย

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →