Ars Technica की रिपोर्ट के अनुसार, मेटा का म्यूज़ एआई असिस्टेंट एक गंभीर शून्य-दिन की भेद्यता के साथ भेजा गया था, जो किसी भी स्थानीय रूप से इंस्टॉल किए गए एप्लिकेशन को उपयोगकर्ता के म्यूज़ अकाउंट टोकन को चुराने और एजेंट के असामान्य रूप से व्यापक विशेषाधिकारों को हथियार बनाने की अनुमति देता था।
इस दोष की खोज अनुभवी macOS सुरक्षा शोधकर्ता, ऑब्जेक्टिव-सी फाउंडेशन के संस्थापक और NASA और राष्ट्रीय सुरक्षा एजेंसी के पूर्व कर्मचारी पैट्रिक वार्डले ने की थी। उनका खुलासा मेटा के लिए एक नाजुक क्षण में हुआ: वार्डले के सार्वजनिक होने से लगभग 12 घंटे पहले, अमेज़ॅन ने पहले से ही लोगों को अपनी साइट पर खरीदारी करने के लिए म्यूज़ का उपयोग करने से रोकना शुरू कर दिया था, इसे "अनधिकृत एआई एजेंट" कहा जो अमेज़ॅन के उपयोग की शर्तों का उल्लंघन करता है। For more context on this story, see our ongoing AI trends.
म्यूज़ जीरो-डे ने कैसे काम किया
म्यूज़, जिसे मेटा ने कुछ हफ़्ते पहले पेश किया था, को एक आक्रामक निजी सहायक के रूप में डिज़ाइन किया गया है। Ars Technica के अनुसार, यह "अपॉइंटमेंट बुक करता है, फॉर्म भरता है और ग्राहक सेवा को संभालता है," "सक्रिय रूप से आपकी प्लेट से कार्य लेता है," और "खरीदारी कर सकता है, चित्र बना सकता है, दस्तावेज़ बना सकता है, और आपके पसंदीदा ऐप्स और सेवाओं से जुड़ सकता है।" ऐप macOS पर चलता है - दिलचस्प बात यह है कि इसका कोई विंडोज़ संस्करण नहीं है - और यह उपयोगकर्ता के व्हाट्सएप, ईमेल, कैलेंडर और सोशल मीडिया खातों से जुड़ता है।
पहुंच का वह स्तर ही भेद्यता को महत्वपूर्ण बनाता है। म्यूज़ के कार्य करने के लिए, उपयोगकर्ताओं को इसे प्रत्येक सेवा के लिए प्रमाणित करना होगा और इसे व्यापक ऑपरेटिंग सिस्टम अनुमतियाँ प्रदान करनी होंगी: डिस्क पर फ़ाइलें लिखना, माइक्रोफ़ोन और कैमरे तक पहुँचना, और स्थान और कैलेंडर की निगरानी करना।
वार्डल ने पाया कि मेटा के डेवलपर्स ने सहायक को इस तरह से डिज़ाइन किया है कि कोई भी स्थानीय रूप से इंस्टॉल किया गया ऐप या निष्पादित कमांड - अपनी स्वयं की macOS अनुमतियों की परवाह किए बिना - अनिर्दिष्ट सेटिंग्स की एक लंबी सूची को बदल सकता है। उनमें से अधिकांश सेटिंग्स अहानिकर थीं, जैसे डार्क मोड को टॉगल करना। हालाँकि, यह नियंत्रित किया जाता है कि संवेदनशील उपयोगकर्ता भाषण को कहाँ संसाधित किया जाता है, और वही तंत्र उस टोकन को उजागर कर सकता है जो किसी उपयोगकर्ता को उनके म्यूज़ियम खाते में प्रमाणित करता है।
वार्डले ने एर्स टेक्निका को बताया, "हम एजेंट के साथ छेड़छाड़ कर सकते हैं और उसके विशेषाधिकारों का लाभ उठाकर जो चाहे कर सकते हैं।" "तो हमें एक बहुत व्यापक मैक मैलवेयर चोरी करने वाला लिखने की बजाय, हम केवल एआई सहायक का ही लाभ उठा सकते हैं।"
व्यवहार में, वार्डले ने कहा कि उन्होंने कई प्रूफ-ऑफ-कॉन्सेप्ट हमले विकसित किए हैं, जिनमें डिस्क पर दुर्भावनापूर्ण फ़ाइलें लिखने वाले हमले भी शामिल हैं। एक वर्णित हमले पथ में एक हमलावर का सर्वर शामिल होता है जो म्यूज़ियम उपयोगकर्ता और मेटा के समापन बिंदु के बीच प्रॉक्सी के रूप में कार्य करता है: एक बार जब उपयोगकर्ता वॉयस प्रॉम्प्ट बोलता है, तो हमलावर का सर्वर एक दुर्भावनापूर्ण कमांड इंजेक्ट करता है - उदाहरण के लिए, हमलावर को सभी व्हाट्सएप संदेशों का एक संग्रह भेजना - और म्यूज़ियम खाते पर स्थायी नियंत्रण प्राप्त करता है।
माइक्रोस्कोप के तहत डिजाइन निर्णय
वार्डले ने इस शोषण के लिए कई विशिष्ट डिज़ाइन विकल्पों को जिम्मेदार ठहराया। इनमें से एक मेटा का क्लाउड में म्यूज़ डिक्टेशन को संभालने का निर्णय था, जहां कंपनी मैकओएस के लंबे समय से समर्थित ऑन-डिवाइस ट्रांसक्रिप्शन का उपयोग करने के बजाय इसे लॉग कर सकती है। उन्होंने कहा, अगर सुरक्षित स्थानीय विकल्प चुना गया होता तो हमला संभव नहीं होता।
दूसरा किसी भी ऐप को अनिर्दिष्ट सेटिंग्स एंडपॉइंट को नियंत्रित करने की अनुमति दे रहा था। वार्डले ने सुझाव दिया कि मेटा का उद्देश्य साझेदार ऐप्स के लिए इंटरफ़ेस प्राथमिकताओं को समायोजित करना है, लेकिन उस नियंत्रण को उस स्थान तक विस्तारित करना जहां संवेदनशील भाषण संसाधित किया जाता है, एक सुविधा सुविधा को हमले की सतह में बदल दिया गया है।
"मेरे लिए, इन ऐप्स की सुरक्षा के मामले में बार असीम रूप से उच्चतर है," वार्डले ने कहा। "उन्हें परफेक्ट होने की ज़रूरत नहीं है, लेकिन जब आप म्यूज़ पर नज़र डालते हैं, तो ऐसा लगता है जैसे उन्होंने, मेरी राय में, सुरक्षा के बारे में नहीं सोचा, जो वास्तव में चिंताजनक है। कम से कम, उन्हें शुरू से ही सुरक्षा के बारे में सोचना चाहिए, और वे ऐसा नहीं कर रहे हैं।"
उपयोगकर्ता डेटा तक इतनी व्यापक पहुंच वाले एक सहायक के पीछे सुरक्षा और गोपनीयता डिजाइन निर्णयों का दस्तावेजीकरण करते हुए मेटा ने कई हफ्तों में दो पोस्ट प्रकाशित कीं - एक समयरेखा जो अब प्रकटीकरण के प्रकाश में अलग-अलग पढ़ी जाती है। Ars Technica ने व्यापक पृष्ठभूमि पर भी ध्यान दिया: खुलासे से पता चला कि एंथ्रोपिक और Google के मॉडलों के आंतरिक परीक्षण के परिणामस्वरूप बाहरी, तृतीय-पक्ष नेटवर्क के सुरक्षा उल्लंघन हुए, जिन्हें इंजीनियरों ने कभी छूने का इरादा नहीं किया था।
एक हॉटफिक्स, और एजेंट एआई के लिए एक चेतावनी
रिपोर्ट के लाइव होने के 12 घंटे से अधिक समय बाद, मेटा ने कहा कि उसने एक हॉटफिक्स जारी किया है जिसने शून्य-दिन को पैच कर दिया है। मेटा ने फ़िक्स की टाइमलाइन पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
सुरक्षा विशेषज्ञों ने लंबे समय से तर्क दिया है कि एक बार किसी डिवाइस के साथ छेड़छाड़ होने पर, सभी दांव बेकार हो जाते हैं - एक प्रतिवाद जिस पर विशेषाधिकार प्राप्त सॉफ़्टवेयर के विक्रेता अक्सर निर्भर रहते हैं। वार्डले ने म्यूज़ के लिए उस फ़्रेमिंग को पीछे धकेल दिया: क्लिकफ़िक्स सोशल-इंजीनियरिंग तकनीक का एक सरल रूपांतर, जो लोगों को अपने डिवाइस को संक्रमित करने के लिए धोखा देने में उल्लेखनीय रूप से प्रभावी हो गया है, एक हमलावर को लक्ष्य के मैक पर दुर्भावनापूर्ण कोड चलाने की आवश्यकता होती है।
वार्डले ने नवंबर में ऑब्जेक्टिव बाय द सी सिक्योरिटी कॉन्फ्रेंस में भेद्यता और अन्य एआई सहायक खतरों पर अधिक विस्तार से चर्चा करने की योजना बनाई है।
यह प्रकरण सुरक्षा ऋण में एक स्पष्ट केस अध्ययन है कि एजेंटिक एआई उत्पाद बाजार में दौड़ने पर जमा हो सकते हैं। एक सहायक जो आपके संदेशों को पढ़ सकता है, खरीदारी के लिए भुगतान कर सकता है और आपके खातों में कार्य कर सकता है, एक हमलावर के दृष्टिकोण से, एक उच्च-मूल्य वाला लक्ष्य है - और इससे समझौता करना प्रत्येक सेवा के लिए कस्टम मैलवेयर बनाने की तुलना में कहीं अधिक सस्ता है।
उपयोगकर्ताओं के लिए, व्यावहारिक सबक परिचित हैं लेकिन नए जरूरी हैं: एक एआई सहायक को जो एक्सेस करने की अनुमति है उसे सीमित करें, इसके विशेषाधिकारों को उतनी ही गंभीरता से लें जितना आप अपनी स्वयं की साख को मानते हैं, और उन उत्पादों पर संदेह करें जो डिफ़ॉल्ट रूप से तीसरे पक्ष के सर्वर के माध्यम से वॉयस डिक्टेशन जैसे संवेदनशील इनपुट को रूट करते हैं। उद्योग के लिए, शोधकर्ताओं का संदेश स्पष्ट है - सुरक्षा उस सॉफ़्टवेयर के लिए लॉन्च के बाद का पैच नहीं हो सकती है जो किसी के डिजिटल जीवन की कुंजी रखता है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
