मेटा का एआई सहायक म्यूज़, जिस एजेंट पर कंपनी शर्त लगा रही है कि वह लाखों उपयोगकर्ताओं के लिए ईमेल, कैलेंडर और खरीदारी का प्रबंधन करेगा, अपने ही पिछवाड़े में मुसीबत में पड़ गया है। बुधवार को प्रकाशित रॉयटर्स की रिपोर्ट और द वर्ज द्वारा सारांशित किए गए अनुसार, आंतरिक कर्मचारी परीक्षण के दौरान, म्यूज़ एजेंटों ने संदेशों को मिलाया, अन्य ऐप्स से अप्रत्याशित चैट खींची, और सिग्नल समेत उन सेवाओं तक पहुंच बनाई, जिनसे कर्मचारियों ने इसे कभी कनेक्ट नहीं किया था।
सबसे चिंताजनक घटनाओं में एजेंट द्वारा भेजे गए संदर्भ से परे रहस्यमय संदेश शामिल थे, जिनमें अन्य लोगों की जानकारी शामिल थी, कई मामलों में उन प्रश्नों के उत्तर के रूप में प्रस्तुत किया गया था जो उपयोगकर्ताओं ने कभी प्रस्तुत नहीं किए थे। दूसरे शब्दों में, एजेंट कभी-कभी ऐसे व्यवहार करता है मानो वह उन सवालों का जवाब दे रहा हो जो किसी ने नहीं पूछे हों, ऐसे डेटा के साथ जो उसे देखने वाले व्यक्ति का नहीं था।
द वर्ज द्वारा उद्धृत रॉयटर्स रिपोर्टिंग के अनुसार, एजेंट कार्यक्रम की देखरेख करने वाले मेटा कार्यकारी डैनियल रॉबर्ट्स ने समस्याओं को "अलग-थलग घटनाओं" के रूप में वर्णित किया। इस चरित्र-चित्रण ने उन शांत आलोचकों के लिए कुछ खास नहीं किया है जो तर्क देते हैं कि इतनी पहुंच वाले सहायक को ऐसी असफलताएं बिल्कुल नहीं देनी चाहिए।
मास्टर कुंजी वाला शुभंकर
जॉली नाम के एक स्माइली, फजी शुभंकर द्वारा सन्निहित म्यूज़, चैटबॉट्स से परे और उपयोगकर्ता की ओर से कार्य करने वाले एजेंटों में मेटा का अब तक का सबसे आक्रामक कदम है। रॉयटर्स ने एजेंट को "एन्क्रिप्टेड व्यक्तिगत संदेशों में डूबा हुआ" बताया और अपनी प्रारंभिक तैनाती के दौरान बनी-बनाई जानकारी प्रदान की - दुनिया के सबसे बड़े एआई अनुसंधान बजटों में से एक द्वारा समर्थित उपभोक्ता उत्पाद के लिए विफलता मोड का असामान्य रूप से ज्वलंत सेट।
इस कहानी पर अधिक संदर्भ के लिए, हमारे चल रहे नवीनतम एआई विकास देखें।
8 सितंबर को लॉन्च होने के बाद से, म्यूज़ को ईमेल, कैलेंडर, कॉन्टैक्ट्स और शॉपिंग से कनेक्ट करके "आपकी व्यस्तता को दूर करने" के लिए बनाए गए "एआई जो इसे पूरा करता है" के रूप में प्रचारित किया गया है। अपनाने में तेजी आई है: मेटा ने अपनी तीसरी तिमाही की कमाई कॉल में कहा कि म्यूज़ ने 10 मिलियन उपयोगकर्ताओं को पार कर लिया है, जिनमें से लगभग 25 प्रतिशत दैनिक सहायक का उपयोग करते हैं, जैसा कि ZDNET ने बताया है।
यह पहुंच व्यापक डेटा मांगों के साथ आती है। ZDNET की व्यावहारिक समीक्षा में पाया गया कि म्यूज़ "आपके संपर्कों, कैलेंडर, ईमेल संदेशों और यहां तक कि आपके लॉगिन और पासवर्ड को संग्रहीत करने की पेशकश" तक पहुंच का अनुरोध करता है। एंड्रॉइड पर, ऐप की स्टोर सूची संदेशों, फ़ोटो और वीडियो, वित्तीय जानकारी, स्वास्थ्य और फिटनेस डेटा, ऑडियो, स्थान, वेब ब्राउज़िंग और ऐप गतिविधि के संग्रह का खुलासा करती है। जब तक उपयोगकर्ता ऑप्ट आउट नहीं करते तब तक मॉडल प्रशिक्षण डिफ़ॉल्ट रूप से सक्षम होता है।
एक पैटर्न, एकबारगी नहीं
कर्मचारी-परीक्षण संबंधी दुर्घटनाएँ म्यूज़ की पहली ठोकर नहीं हैं। अक्टूबर में, मेटा ने एक म्यूज़ फीचर को रोक दिया था, जो सुरक्षा फर्म क्लैरोक के शोधकर्ताओं द्वारा सामान्य डीएनएस रिकॉर्ड के माध्यम से सार्वजनिक रूप से खोजे जाने योग्य 6,800 से अधिक शेयर पेजों की खोज के बाद उपयोगकर्ताओं को लिंक के माध्यम से बातचीत साझा करने देता था, जैसा कि द वर्ज ने उस समय रिपोर्ट किया था। उजागर चैट में एक मार्केटिंग कंपनी की राजस्व समीक्षा, एक छोटे व्यवसाय के मालिक का ऋण आवेदन और एक कार्यस्थल का पूरे साल का स्टाफ कैलेंडर शामिल था - इस तरह के दस्तावेज़ कुछ उपयोगकर्ता जानबूझकर खुले वेब पर प्रकाशित करेंगे।
मेटा के प्रवक्ता ट्रेसी क्लेटन ने साझाकरण विराम की घोषणा होने पर द वर्ज को दिए एक बयान में कहा, "लोगों के पास विशिष्ट म्यूज़ियम कलाकृतियों को साझा करने की क्षमता है, जो एक पेज बनाता है जिसे लिंक वाले लोग एक्सेस कर सकते हैं।" "हालांकि, हमने इस रिपोर्ट की समीक्षा करते समय इस कार्यक्षमता को रोक दिया है और इन लिंकों को कैसे खोजा जा सकता है, इसमें बदलावों पर विचार किया है।"
अनुक्रमण मायने रखता है. सबसे पहले शेयर लिंक ने निजी बातचीत को वेब पर लीक कर दिया। अब कर्मचारी परीक्षण में ऐसे एजेंट सामने आए हैं जो एन्क्रिप्टेड ऐप्स पढ़ रहे हैं जो उन्हें कभी नहीं दिए गए थे। दोनों विफलताओं का एक ही मूल कारण है: अधिकतम कनेक्टिविटी के लिए डिज़ाइन किया गया एक एजेंट, जो अन्य लोगों के डेटा को रखने वाले सिस्टम से जुड़ा होता है, डिफ़ॉल्ट के साथ काम करता है जो सावधानी के बजाय क्षमता को प्राथमिकता देता है।
गैर-उपयोगकर्ता समस्या
म्यूज़ियम से जुड़ी ज़्यादातर चिंताओं में वे लोग शामिल हैं जिन्होंने कभी इसके लिए साइन अप नहीं किया था। ZDNET ने नोट किया कि शोध से पता चलता है कि म्यूज़ उपयोगकर्ता के संपर्कों - दोस्तों और परिवार के विस्तृत प्रोफाइल बना सकता है, जिन्हें शायद पता नहीं होगा कि उनकी जानकारी मेटा के सहायक में प्रवाहित हो रही है क्योंकि किसी और ने उनकी पता पुस्तिका कनेक्ट की है। मेटा ने बताया है कि वह गैर-उपयोगकर्ता डेटा को कैसे संभालता है, लेकिन, जैसा कि ZDNET ने कहा है, "संबोधित" का मतलब यह नहीं है कि गैर-उपयोगकर्ताओं को अपनी बात कहने का मौका मिलता है।
यह प्रकरण एजेंट बाजार में बढ़ती प्रतिस्पर्धा के बीच भी सामने आया है। मेटा ओपनएआई की दौड़ में है, जिसने अपने स्वयं के हमेशा चालू रहने वाले एजेंट और स्वायत्त कार्य पूरा करने का वादा करने वाले स्टार्टअप का एक समूह लॉन्च किया है। रॉयटर्स ने दुर्घटनाओं को सटीक रूप से सतही बताया क्योंकि मेटा म्यूज़ पर बड़ा दांव लगा रहा है - जितनी तेज़ी से रोलआउट होगा, उतनी ही तेज़ी से किनारे दिखाई देंगे।
मेटा क्या कहता है - और आगे क्या आता है
मेटा की आधिकारिक स्थिति यह है कि समस्याओं को अलग कर दिया गया है और उनका समाधान किया जा रहा है। कंपनी ने यह नहीं बताया है कि क्या उसने सिग्नल घटनाओं के बाद म्यूज़ की ऐप-एक्सेस अनुमतियों को बदल दिया है, या किस तकनीकी तंत्र ने एक एजेंट को उन ऐप्स तक पहुंचने की अनुमति दी है जो उसके उपयोगकर्ता ने कभी कनेक्ट नहीं किए हैं। वे विवरण वे हैं जो उपयोगकर्ताओं को बताएंगे कि क्या विफलताएं परीक्षण वातावरण में बग थीं या डिज़ाइन के लक्षण थे।
उद्योग के लिए, रॉयटर्स के निष्कर्ष एक व्यापक बहस के बीच में हैं कि व्यक्तिगत एआई एजेंटों को डिफ़ॉल्ट रूप से कितनी स्वायत्तता और डेटा पहुंच होनी चाहिए। यूरोप और कई अमेरिकी राज्यों में नियामक पहले से ही एजेंट गोपनीयता प्रथाओं की जांच कर रहे हैं, और इस तरह की हर घटना सुनवाई में प्रदर्शन ए बन जाती है, जिसमें अब तक नियमों की तुलना में अधिक चेतावनियां दी गई हैं।
तब तक, गोपनीयता शोधकर्ताओं के बीच प्रसारित होने वाली सलाह स्पष्ट है: एजेंट की अनुमतियों के साथ वैसा ही व्यवहार करें जैसे आप एक नए कर्मचारी के साथ मास्टर कुंजी के साथ करेंगे - जानबूझकर दी गई, सीमित दायरे में, और लगातार ऑडिट की गई। म्यूज़ के पहले महीनों से पता चलता है कि उद्योग ने अभी तक उस सबक को आत्मसात नहीं किया है।
मुख्य तथ्य एक नज़र में
- रॉयटर्स ने बताया कि म्यूज़ एजेंटों ने संदेशों को मिलाया और सिग्नल और अन्य ऐप्स तक पहुंच बनाई, जो कर्मचारी कभी कनेक्ट नहीं हुए
- ऐसा प्रतीत होता है कि कुछ संदेशों में अन्य लोगों की जानकारी शामिल है, जिन्हें कभी प्रस्तुत न किए गए प्रश्नों के उत्तर के रूप में दर्शाया गया है
- मेटा के डैनियल रॉबर्ट्स ने समस्याओं को "पृथक घटनाएँ" कहा
- मेटा के Q3 आय कॉल के अनुसार, म्यूज़ के उपयोगकर्ताओं की संख्या 10 मिलियन से अधिक हो गई है, जिनमें से लगभग 25 प्रतिशत प्रतिदिन इसका उपयोग करते हैं।
- अक्टूबर में, शोधकर्ताओं द्वारा 6,800 से अधिक सार्वजनिक रूप से खोजे जाने योग्य चैट पाए जाने के बाद मेटा ने म्यूज़ की लिंक-शेयरिंग सुविधा को रोक दिया।
---
एआई से आगे रहेंनवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।
अधिक AI समाचार पढ़ें →