मेटाचा एआय असिस्टंट म्यूज, कंपनी ज्या एजंटवर सट्टेबाजी करत आहे तो लाखो वापरकर्त्यांसाठी ईमेल, कॅलेंडर आणि खरेदी व्यवस्थापित करेल, त्याच्या स्वतःच्या घराच्या अंगणात अडचणीत सापडला आहे. अंतर्गत कर्मचारी चाचणी दरम्यान, म्युझ एजंट्सने संदेश मिसळले, इतर ॲप्समधून अनपेक्षित चॅट्स काढल्या आणि सेवांमध्ये प्रवेश केला — सिग्नलसह — ज्यांना कर्मचाऱ्यांनी कधीही कनेक्ट केले नव्हते, बुधवारी प्रकाशित झालेल्या रॉयटर्सच्या अहवालानुसार आणि द व्हर्जने सारांशित केले.
सर्वात चिंताजनक घटनांमध्ये एजंटने पाठवलेले गूढ संदर्भातील संदेश समाविष्ट होते ज्यात इतर लोकांची माहिती असल्याचे दिसून आले होते, बर्याच प्रकरणांमध्ये वापरकर्त्यांनी कधीही सबमिट केलेल्या प्रश्नांची उत्तरे म्हणून वाक्ये दिली होती. दुसऱ्या शब्दांत, एजंट कधी कधी कोणी विचारलेल्या प्रश्नांची उत्तरे देत असल्यासारखे वागतो, जो डेटा पाहणाऱ्या व्यक्तीचा नसतो.
द व्हर्जने उद्धृत केलेल्या रॉयटर्सच्या रिपोर्टिंगनुसार, एजंट प्रोग्रामवर देखरेख करणारे मेटा एक्झिक्युटिव्ह डॅनियल रॉबर्ट्स यांनी समस्यांचे वर्णन "वेगळे घटना" म्हणून केले. व्यक्तिचित्रणाने समीक्षकांना शांत करण्यासाठी फारसे काही केले नाही जे असा युक्तिवाद करतात की एवढी पोहोच असलेल्या सहाय्यकाने असे अपयश अजिबात आणू नये.
मास्टर कीसह शुभंकर
जॉली नावाच्या स्मायली, फजी मॅस्कॉटने मूर्त रूप दिलेले म्युझ, हे चॅटबॉट्सच्या पलीकडे आणि वापरकर्त्याच्या वतीने कार्य करणाऱ्या एजंट्सपर्यंतचे सर्वात आक्रमक पाऊल आहे. रॉयटर्सने एजंटचे वर्णन "एनक्रिप्टेड वैयक्तिक संदेशांमध्ये बुरुज केले" आणि त्याच्या सुरुवातीच्या तैनाती दरम्यान तयार केलेली माहिती पुरवली - जगातील सर्वात मोठ्या AI संशोधन बजेटपैकी एक असलेल्या ग्राहक उत्पादनासाठी अपयशी मोडचा एक असामान्यपणे ज्वलंत संच.
या कथेच्या अधिक संदर्भासाठी, आमचे सध्या सुरू असलेले नवीनतम AI घडामोडी पहा.
8 सप्टेंबर रोजी लाँच झाल्यापासून, म्युझला ईमेल, कॅलेंडर, संपर्क आणि खरेदीशी जोडून "तुमच्या प्लेटमधून व्यस्त काम" दूर करण्यासाठी तयार करण्यात आलेले "AI that gets it done" म्हणून प्रमोट केले गेले आहे. दत्तक घेणे जलद झाले आहे: मेटाने तिसऱ्या तिमाहीच्या कमाई कॉलमध्ये म्हटले आहे की म्यूजने 10 दशलक्ष वापरकर्त्यांना मागे टाकले आहे, त्यापैकी सुमारे 25 टक्के वापरकर्ते दररोज सहाय्यक वापरतात, ZDNET च्या अहवालानुसार.
ती पोहोच मोठ्या प्रमाणावर डेटा मागणीसह येते. ZDNET च्या हँड्स-ऑन रिव्ह्यूमध्ये म्युझने "तुमचे संपर्क, कॅलेंडर, ईमेल संदेश आणि तुमचे लॉगिन आणि पासवर्ड संग्रहित करण्यासाठी ऑफरमध्ये प्रवेश करण्याची विनंती केली आहे." Android वर, ॲपची स्टोअर सूची संदेश, फोटो आणि व्हिडिओ, आर्थिक माहिती, आरोग्य आणि फिटनेस डेटा, ऑडिओ, स्थान, वेब ब्राउझिंग आणि ॲप क्रियाकलाप यांचे संकलन उघड करते. वापरकर्ते निवड रद्द करेपर्यंत मॉडेल प्रशिक्षण डीफॉल्टनुसार सक्षम केले जाते.
एक नमुना, एक-ऑफ नाही
कर्मचारी-चाचणी दुर्घटना ही म्युझची पहिली अडखळत नाही. ऑक्टोबरमध्ये, Meta ने म्युझ वैशिष्ट्याला विराम दिला जो वापरकर्त्यांना दुव्याद्वारे संभाषण सामायिक करू देतो जेव्हा सुरक्षा फर्म क्लॅरोकच्या संशोधकांनी सामान्य DNS रेकॉर्डद्वारे सार्वजनिकपणे शोधण्यायोग्य 6,800 पेक्षा जास्त शेअर पृष्ठे शोधली, तेव्हा द व्हर्जने अहवाल दिला. उघड झालेल्या चॅट्समध्ये मार्केटिंग कंपनीचे महसूल पुनरावलोकन, एका लहान व्यवसाय मालकाचे कर्ज अर्ज आणि कामाच्या ठिकाणी पूर्ण वर्षाचे कर्मचारी कॅलेंडर समाविष्ट होते — ज्या प्रकारचे दस्तऐवज काही वापरकर्ते जाणूनबुजून ओपन वेबवर प्रकाशित करतात.
"लोकांकडे विशिष्ट म्युझिक आर्टिफॅक्ट्स शेअर करण्याची क्षमता आहे, जे एक पृष्ठ तयार करते ज्यामध्ये लिंक असलेल्यांना प्रवेश करता येईल," मेटा प्रवक्त्या ट्रेसी क्लेटन यांनी द व्हर्जला दिलेल्या निवेदनात शेअरिंग विराम जाहीर करण्यात आला. "तथापि, आम्ही या अहवालाचे पुनरावलोकन करत असताना आणि हे दुवे कसे शोधता येतील यातील बदलांचा विचार करत असताना आम्ही या कार्यक्षमतेला विराम दिला आहे."
अनुक्रम महत्त्वाचा. प्रथम शेअर लिंक्सने वेबवर खाजगी संभाषणे लीक केली. आता कर्मचाऱ्यांच्या चाचणीत एजंट्स एन्क्रिप्टेड ॲप्स वाचत असल्याचे समोर आले आहे जे त्यांना कधीही दिले गेले नव्हते. दोन्ही अपयशांचे मूळ कारण सामायिक केले आहे: जास्तीत जास्त कनेक्टिव्हिटीसाठी डिझाइन केलेले एजंट, इतर लोकांचा डेटा ठेवणाऱ्या सिस्टमशी कनेक्ट केलेले, डीफॉल्टसह कार्य करते जे सावधगिरीपेक्षा क्षमतांना अनुकूल करते.
गैर-वापरकर्ता समस्या
म्युझच्या सभोवतालच्या बहुतेक चिंतेमध्ये अशा लोकांचा समावेश होतो ज्यांनी कधीही त्यासाठी साइन अप केले नाही. ZDNET ने नमूद केले की संशोधनाने सूचित केले आहे की म्यूज वापरकर्त्याच्या संपर्कांची तपशीलवार प्रोफाइल तयार करू शकते — मित्र आणि कुटुंब ज्यांना कदाचित माहित नसेल की त्यांची माहिती मेटाच्या सहाय्यकामध्ये प्रवाहित होत आहे कारण कोणीतरी त्यांचे ॲड्रेस बुक कनेक्ट केले आहे. मेटा ने ते गैर-वापरकर्ता डेटा कसे हाताळते हे संबोधित केले आहे, परंतु, ZDNET ने म्हटल्याप्रमाणे, "संबोधित" म्हणजे गैर-वापरकर्त्यांना म्हणणे नाही.
एजंट मार्केटमधील तीव्र स्पर्धेदरम्यान हा भाग देखील उतरतो. मेटा ओपनएआय ची शर्यत करत आहे, ज्याने स्वतःचे नेहमीच चालू असलेले एजंट आणि स्वायत्त कार्य पूर्ण करण्याचे आश्वासन देणाऱ्या स्टार्टअप्सचा समूह सुरू केला आहे. रॉयटर्सने अपघातांना तंतोतंत सरफेसिंग म्हणून तयार केले कारण मेटा म्युझवर मोठा सट्टा लावत आहे — रोलआउट जितक्या जलद होईल तितक्या वेगाने किनारी दिसून येतील.
मेटा काय म्हणतो — आणि पुढे काय येते
मेटाची अधिकृत स्थिती अशी आहे की समस्या वेगळ्या आहेत आणि त्या सोडवल्या जात आहेत. सिग्नलच्या घटनांनंतर म्युझच्या ॲप-ॲक्सेस परवानग्या बदलल्या की नाही किंवा एजंटला त्याचा वापरकर्ता कधीही कनेक्ट न केलेल्या ॲप्सपर्यंत पोहोचण्याची कोणत्या तांत्रिक यंत्रणेने परवानगी दिली हे कंपनीने सांगितले नाही. ते तपशील असे आहेत जे वापरकर्त्यांना हे सांगतील की अपयश चाचणी वातावरणातील बग होते की डिझाइनची लक्षणे.
उद्योगासाठी, रॉयटर्सचे निष्कर्ष डीफॉल्टनुसार वैयक्तिक एआय एजंट्सना किती स्वायत्तता आणि डेटा ऍक्सेस असणे आवश्यक आहे याबद्दल विस्तृत चर्चेच्या मध्यभागी उतरले आहे. युरोप आणि अनेक यूएस राज्यांमधील नियामक आधीच एजंट गोपनीयता पद्धतींचे परीक्षण करत आहेत आणि यासारखी प्रत्येक घटना सुनावणीमध्ये ए प्रदर्शित करते ज्याने आतापर्यंत नियमांपेक्षा अधिक चेतावणी दिली आहेत.
तोपर्यंत, गोपनीयता संशोधकांमध्ये फिरत असलेला सल्ला पुष्कळ आहे: एजंट परवानग्या जसे की तुम्ही एखाद्या नवीन कर्मचाऱ्याशी मास्टर कीने वागाल — जाणूनबुजून मंजूर केले आहे, संकुचितपणे दिलेले आहे आणि सतत ऑडिट केले आहे. म्यूजचे पहिले महिने सूचित करतात की उद्योगाने अद्याप तो धडा अंतर्भूत केलेला नाही.
एका दृष्टीक्षेपात प्रमुख तथ्ये
- रॉयटर्सने नोंदवले की म्युझ एजंटने संदेश मिसळले आणि सिग्नल आणि इतर ॲप्सचे कर्मचारी कधीही कनेक्ट झाले नाहीत.
- काही संदेशांमध्ये इतर लोकांची माहिती असल्याचे दिसून आले, जे कधीही सबमिट न केलेल्या प्रश्नांची उत्तरे म्हणून शब्दबद्ध केले गेले
- मेटाच्या डॅनियल रॉबर्ट्सने समस्यांना "पृथक् घटना" म्हटले आहे.
- म्युझने 10 दशलक्ष वापरकर्त्यांना मागे टाकले आहे, सुमारे 25 टक्के वापरकर्ते दररोज ते वापरतात, प्रत्येक मेटाच्या Q3 कमाई कॉल
- संशोधकांना 6,800+ सार्वजनिकरित्या शोधण्यायोग्य चॅट सापडल्यानंतर ऑक्टोबरमध्ये, मेटाने म्यूजच्या लिंक-शेअरिंग वैशिष्ट्याला विराम दिला.
---
एआयच्या पुढे राहानवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.
अधिक AI बातम्या वाचा →