एक सुरक्षा शोधकर्ता ने दस्तावेज तैयार किया है जो मुख्यधारा के उत्पादकता सूट के माध्यम से दस्तावेज़-जनित "एआई वर्म" स्व-प्रसार का पहला सार्वजनिक उदाहरण हो सकता है, जिसमें दिखाया गया है कि छिपे हुए दुर्भावनापूर्ण निर्देश वर्ड के लिए कोपायलट के माध्यम से एक माइक्रोसॉफ्ट वर्ड फ़ाइल से दूसरे में जा सकते हैं।
28 जुलाई को प्रकाशित एक समन्वित प्रकटीकरण में, शोधकर्ता हाकोन मैलोय ने बताया कि कैसे किसी दस्तावेज़ में एम्बेडेड हमलावर-नियंत्रित निर्देश कोपायलट के प्रारूपण को हाईजैक कर सकते हैं। एक बार जब एआई जहरीले दस्तावेज़ को पढ़ लेता है, तो यह चुपचाप आउटपुट को बदल सकता है - उदाहरण के लिए, एक रिपोर्ट में वित्तीय आंकड़ों को आधा करना - और फिर पूर्ण दुर्भावनापूर्ण पेलोड को सफेद पाठ के रूप में छुपाकर नई जेनरेट की गई फ़ाइल में कॉपी कर सकता है। वह नई फ़ाइल एक वाहक बन जाती है, जो अगली बार स्रोत सामग्री के रूप में उपयोग किए जाने पर अन्य दस्तावेज़ों को संक्रमित कर देती है, यहां तक कि मूल दुर्भावनापूर्ण फ़ाइल के चले जाने के बाद भी। For more context on this story, see our ongoing breaking AI news.
यह कार्य 144 दिनों की समन्वय अवधि में माइक्रोसॉफ्ट के सुरक्षा प्रतिक्रिया केंद्र (एमएसआरसी) के साथ आयोजित किया गया था। प्रकटीकरण के अनुसार, माइक्रोसॉफ्ट ने कई सुधारों को भेजा, जिसमें अंतर्निहित मॉडल को GPT-5.5 और फिर GPT-5.6 में अपग्रेड करना शामिल था, लेकिन शोधकर्ता ने तैनात किए गए प्रत्येक शमन के साथ पूरी हमले श्रृंखला को पुन: उत्पन्न किया। "इसलिए भेद्यता वर्ग प्रकाशन के समय शोषण योग्य बना रहता है," मैलोय ने लिखा।
निष्कर्ष एलएलएम-आधारित प्रणालियों में एक गहरी वास्तुशिल्प समस्या को उजागर करते हैं। क्योंकि एक भाषा मॉडल को यह तय करने के लिए बाहरी सामग्री को पढ़ना होगा कि वह प्रासंगिक है या शत्रुतापूर्ण, "निरीक्षण की जा रही सामग्री निरीक्षण के कार्य में भाग लेती है" - जिससे विश्वसनीय शीघ्र-इंजेक्शन बचाव मायावी हो जाता है।
माइक्रोसॉफ्ट ने रिपोर्ट किए गए विशिष्ट पेलोड को कम कर दिया और श्रृंखला के पहले हिस्सों से मेमोरी और ईमेल वैक्टर को बंद कर दिया, लेकिन स्वीकार किया कि व्यापक वर्ग के लिए कोई पूर्ण समाधान मौजूद नहीं है। शोधकर्ता बाहरी स्रोत से प्राप्त दस्तावेज़ों को कोपायलट के साथ उपयोग किए जाने पर अविश्वसनीय मानने और पुन: उपयोग या वितरण से पहले एआई-जनरेटेड सामग्री की सावधानीपूर्वक समीक्षा करने की सलाह देते हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
