एका सुरक्षा संशोधकाने दस्तऐवज-जनित "AI वर्म" हे मुख्य प्रवाहातील उत्पादकता संचद्वारे स्वयं-प्रसाराचे पहिले सार्वजनिक उदाहरण काय असू शकते याचे दस्तऐवजीकरण केले आहे, हे दर्शविते की लपविलेल्या दुर्भावनापूर्ण सूचना एका Microsoft Word फाईलमधून दुसऱ्या Microsoft Word फाइलवर Copilot for Word द्वारे जाऊ शकतात.
28 जुलै रोजी प्रकाशित केलेल्या समन्वित प्रकटीकरणात, संशोधक हॅकॉन मालोय यांनी वर्णन केले की दस्तऐवजात एम्बेड केलेल्या हल्लेखोर-नियंत्रित सूचना कॉपायलटचे मसुदा कसे हायजॅक करू शकतात. एकदा का AI ने विषबाधा केलेले दस्तऐवज वाचले की, ते शांतपणे आउटपुट बदलू शकते — उदाहरणार्थ, अहवालातील आर्थिक आकडे अर्धे करणे — आणि नंतर पांढऱ्या मजकूराच्या रूपात लपवून ठेवलेल्या नवीन व्युत्पन्न केलेल्या फाइलमध्ये संपूर्ण दुर्भावनायुक्त पेलोड कॉपी करू शकते. मूळ दुर्भावनायुक्त फाइल निघून गेल्यानंतरही ती नवीन फाइल वाहक बनते, पुढील वेळी ती स्त्रोत सामग्री म्हणून वापरली जाते तेव्हा पुढील कागदपत्रांना संक्रमित करते. For more context on this story, see our ongoing AI trends.
मायक्रोसॉफ्टच्या सिक्युरिटी रिस्पॉन्स सेंटर (MSRC) सोबत 144 दिवसांच्या समन्वय कालावधीत हे काम केले गेले. प्रकटीकरणानुसार, मायक्रोसॉफ्टने अंतर्निहित मॉडेलचे GPT-5.5 आणि नंतर GPT-5.6 वर अपग्रेड करण्यासह अनेक निराकरणे पाठवली, परंतु संशोधकाने तैनात केलेल्या प्रत्येक शमनसह संपूर्ण आक्रमण साखळी पुनरुत्पादित केली. "म्हणून असुरक्षितता वर्ग प्रकाशनाच्या वेळी शोषक राहतो," माले यांनी लिहिले.
निष्कर्ष एलएलएम-आधारित प्रणालींमधील सखोल आर्किटेक्चरल समस्या हायलाइट करतात. कारण भाषा मॉडेलने बाह्य सामग्री वाचणे आवश्यक आहे की ती संबंधित आहे की प्रतिकूल आहे हे ठरवण्यासाठी, "तपासली जात असलेली सामग्री तपासणीच्या कृतीत भाग घेते" - विश्वसनीय प्रॉम्प्ट-इंजेक्शन संरक्षणास मायावी बनवते.
मायक्रोसॉफ्टने नोंदवलेले विशिष्ट पेलोड कमी केले आणि मालिकेच्या पूर्वीच्या भागांमधील मेमरी आणि ईमेल वेक्टर बंद केले, परंतु व्यापक वर्गासाठी कोणतेही पूर्ण निराकरण अस्तित्वात नाही हे मान्य केले. Copilot सोबत वापरताना बाहेरून सोर्स केलेले दस्तऐवज अविश्वासू मानले जावे आणि पुनर्वापर किंवा वितरण करण्यापूर्वी AI-व्युत्पन्न सामग्रीचे काळजीपूर्वक पुनरावलोकन करण्याची शिफारस संशोधक करतात.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
