एका स्टार्टअप सीईओने आपले वैयक्तिक वित्त AI एजंटला दिले होते, त्याला या महिन्यात एजंट परवानग्यांमध्ये एक अवांछित धडा मिळाला, सहाय्यकाने त्याच्या कंपनीच्या अंतर्गत स्लॅक चॅनेलवर त्याची बँक शिल्लक, बचतीचा आकडा आणि मासिक खर्चाचा ब्रेकडाउन पोस्ट केल्यानंतर.

सॉफ्टवेअर कंपनी XMTP लॅब्सचे 40 वर्षीय मुख्य कार्यकारी शेन मॅक यांनी शुक्रवारी बिझनेस इनसाइडरने प्रकाशित केलेल्या फर्स्ट पर्सन अकाउंटमध्ये या घटनेचे वर्णन केले. मॅकने ऑगस्टच्या उत्तरार्धात Grok Bot, xAI च्या एजंट उत्पादनावर वैयक्तिक CFO एजंट म्हणून ओळखले होते, त्याला त्याच्या वैयक्तिक तपासणी आणि बचत खात्यांमध्ये केवळ वाचनीय प्रवेश दिला आणि त्याला मासिक आर्थिक अहवाल पाठवण्याची सूचना दिली. त्याऐवजी, 1 ऑक्टोबर रोजी, एजंटने तो अहवाल त्याच्या स्वत:च्या कंपनीतील एक्झिक्युटिव्ह-टीम स्लॅक चॅनेलला दिला. वाचकांसाठी AI एजंट खऱ्या जगाशी कसे टक्कर देत राहतात, हा भाग वेगाने वाढणाऱ्या घटना फाइलमधील आणखी एक एंट्री आहे.

राउटिंग समस्येसह वैयक्तिक CFO एजंट

मॅकने सांगितले की त्याने एजंटची स्थापना केली जेव्हा त्याने ओपनक्लॉ आणि इतर एजंट हार्नेससह प्रयोग केले तेव्हा वैयक्तिक एआय सहाय्यकांची लाट गेल्या वर्षी उशिरा सुरू झाली. त्याची कल्पना सरळ होती: एक एजंट जो त्याची शिल्लक काय आहे, त्याचा आवर्ती खर्च कसा दिसतो, काहीही फसवे वाटले की नाही, आणि तो खर्च कुठे कमी करू शकतो यासारख्या प्रश्नांची उत्तरे देऊ शकतो. त्याने त्याच्या एआय एजंट्सच्या ग्रुप चॅटला "माय पर्सनल एक्झीक टीम" असे नाव दिले.

सेटअपने आठवड्याच्या साप्ताहिक धावांसाठी चांगले काम केले. त्यानंतर गुरुवार, 1 ऑक्टोबर रोजी पहिले मासिक ऑडिट सुरू झाले.

"आमच्या उत्पादनाच्या प्रमुखाने मला स्लॅकवर एक DM पाठवला," मॅकने बिझनेस इनसाइडरला सांगितले. "तो म्हणाला, 'अरे, सावधान. मला वाटतं तुला XMTP बँक बॅलन्स पोस्ट करायचं आहे.'"

हा मेसेज "Exec-team" नावाच्या स्लॅक चॅटमध्ये आला, ज्यामध्ये XMTP च्या कार्यकारी टीमचा समावेश आहे — मॅकने ज्या वैयक्तिक एजंट ग्रुप चॅटचा हेतू नव्हता. अहवालात त्याच्या बचत खात्यातील शिल्लक, महिन्यातील त्याचा सर्वात मोठा खर्च आणि तो त्याच्या मालमत्तेवर बांधत असलेल्या धान्याच्या कोठारामुळे त्याच्या मासिक खर्चाच्या लक्ष्यापेक्षा जास्त असल्याची नोंद समाविष्ट आहे. धान्याचे कोठार तपशील, मॅक म्हणाला, तो कंपनी आकडेवारी ऐवजी मॅक च्या वैयक्तिक आर्थिक पाहत होते की उत्पादन त्याच्या डोक्यातून टिपा काय होते.

मॅकने संदेश हटवला आणि एजंटला विचारले की त्याने कंपनीला अहवाल का पाठवला आहे. एजंटने माफी मागितली आणि मेसेज डिलीट करण्याची ऑफर दिली - जो आधीच गेला होता.

मूळ कारण: सामायिक कनेक्शन, समान चॅनेल नावे

जेव्हा xAI च्या टीमने तपास केला, तेव्हा त्यांचा निष्कर्ष काही प्रकारे खराबीपेक्षा जास्त अस्वस्थ करणारा होता. सीएफओ एजंटने भ्रमित केले नाही किंवा गैरवर्तन केले नाही; मॅकने जे सांगितले तेच केले होते. बिघाड खाली प्लंबिंगमध्ये होता.

मॅकच्या खात्यानुसार, एजंटने त्याचे गंतव्यस्थान गोंधळात टाकले कारण चॅनेलची नावे सारखीच होती आणि - अधिक महत्त्वाचे म्हणजे - कारण त्याचे सर्व स्वतंत्र एजंट प्रत्यक्षात समान अंतर्निहित कनेक्शन सामायिक करत होते, जरी त्यांना वेगळे सहाय्यक वाटले. त्याने त्याचे स्लॅक खाते त्यापैकी एकाशी जोडले होते आणि आर्थिक एजंट त्या सामायिक प्रवेशाद्वारे चुकीच्या चॅनेलपर्यंत पोहोचू शकला.

"मी जे करायला सांगितले तेच ते करत होते," मॅक म्हणाला. "परंतु यामुळे गंतव्यस्थानाचा गोंधळ उडाला."

एंटरप्राइझ सॉफ्टवेअर मानकांद्वारे xAI चा प्रतिसाद पटकन आला. कंपनीने निष्कर्ष काढला की एजंटने इतर चॅनेलवर माहिती हलवण्यापूर्वी वापरकर्त्यांनी स्पष्टपणे परवानगी दिली पाहिजे आणि मॅकच्या खात्यानुसार बिझनेस इनसाइडर लेख प्रकाशित होण्याच्या आदल्या रात्री एक निराकरण केले.

ही घटना एकाहून अधिक लीक मेसेज का महत्त्वाची आहे

त्याच्या चेहऱ्यावर, लीक समाविष्ट होते: एका कार्यकारी व्यक्तीचा वैयक्तिक आर्थिक सारांश मूठभर सहकाऱ्यांनी थोडक्यात पाहिला, एक माफी मागणारा एजंट, एक फिक्स काही दिवसांत पाठवला गेला. परंतु तो ज्या पॅटर्नचा पर्दाफाश करतो तोच आहे ज्याने अलिकडच्या काही महिन्यांत उच्च-स्टेक घटनांचा सिलसिला तयार केला आहे — जसे की AI Buzz Wire ने अहवाल दिला आहे वारंवार, एका मानववंशीय मॉडेलकडून ज्याने फिलाडेल्फिया पोलिसांकडे खोटी हत्याकांडाची टीप दाखल केली होती ज्याने AI घटनेचा अहवाल देण्यास व्हाईट हाऊसला प्रवृत्त केले.

मूळ समस्या अशी आहे की वैयक्तिक आणि व्यावसायिक डिजिटल जीवन एकाच पायाभूत सुविधांवर चालते. मॅकने कामावर Google आणि घरी Google वापरले आणि त्याच्या एजंटांना ती अस्पष्ट सीमा वारशाने मिळाली. जेव्हा एजंट ईमेल, कॅलेंडर, बँकिंग आणि स्ट्राइप सारख्या पेमेंट प्लॅटफॉर्मवर स्थायी कनेक्शन धारण करतो, तेव्हा राउटिंग चुकीची धडपड त्रिज्या यापुढे सैद्धांतिक नसते.

मॅक म्हणाले, "एजंटना काय प्रवेश आहे यावर अधिक चांगली नियंत्रणे आहेत याची आम्हाला खात्री करावी लागेल." त्यांनी नमूद केले की लोकांना हे सहाय्यक खरोखर हवे आहेत आणि त्यांना उपयुक्त वाटले आहे — आव्हान म्हणजे परवानगी प्रणाली तयार करणे जे वापरकर्त्यांना त्यांनी जे दिले आहे त्यावर नियंत्रण ठेवते आणि वैयक्तिक आणि कामाच्या संदर्भांमध्ये अधिक स्पष्ट रेषा काढते.

घटनेनंतर, मॅकने सर्वकाही डिस्कनेक्ट केले: Google, त्याचे कॅलेंडर, त्याचे बँकिंग, स्ट्राइप. त्याच्या सावधगिरीचे पडसाद उमटण्याची शक्यता आहे. एजंट प्लॅटफॉर्मने गेल्या वर्षभरात एकत्रीकरण जोडण्यासाठी शर्यत घालवली आहे — अधिक कनेक्शन, अधिक स्वायत्त क्रिया, कमी पुष्टीकरण प्रॉम्प्ट — कारण अखंड प्रवेशामुळे सहाय्यकांना जादुई वाटते. एक्सएमटीपी लॅब्स एपिसोड हे एक लहान, ठोस प्रात्यक्षिक आहे की संदर्भांमधील सुस्पष्ट हँडऑफ हे उत्पादनाची आवश्यकता का बनत आहेत.

या भागाने नियम किती लवकर तयार होत आहेत हे देखील अधोरेखित केले आहे. वर्षभरापूर्वी एका एजंटने सहकर्मचाऱ्यांकडे बँक बॅलन्स लीक करणे ही उत्सुकता वाढली असती. ऑक्टोबर 2026 मध्ये, नियामक, अभियोक्ता आणि व्हाईट हाऊसने आधीच एजंटच्या गैरवर्तणुकीवर लक्ष केंद्रित केले होते, हे एक केस स्टडी म्हणून वाचते की परवानगीची सीमा - बुद्धिमत्ता नव्हे - ग्राहक AI मध्ये सर्वात कठीण समस्या का असू शकते.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →