एक स्टार्टअप सीईओ, जिसने अपना व्यक्तिगत वित्त एक एआई एजेंट को सौंप दिया था, को इस महीने एजेंट अनुमतियों में एक अवांछित सबक मिला, जब सहायक ने अपनी कंपनी के आंतरिक स्लैक चैनल पर अपना बैंक बैलेंस, बचत आंकड़ा और मासिक खर्च विवरण पोस्ट किया।

सॉफ्टवेयर कंपनी एक्सएमटीपी लैब्स के 40 वर्षीय मुख्य कार्यकारी शेन मैक ने शुक्रवार को बिजनेस इनसाइडर द्वारा प्रकाशित प्रथम-व्यक्ति खाते में इस घटना का वर्णन किया। मैक ने अगस्त के अंत में एक्सएआई के एजेंट उत्पाद, ग्रोक बॉट पर एक व्यक्तिगत सीएफओ एजेंट बनाया था, जिसने उसे अपने व्यक्तिगत चेकिंग और बचत खातों तक केवल पढ़ने के लिए पहुंच प्रदान की और उसे मासिक वित्तीय रिपोर्ट भेजने का निर्देश दिया। इसके बजाय, 1 अक्टूबर को, एजेंट ने उस रिपोर्ट को अपनी ही कंपनी के एक कार्यकारी-टीम स्लैक चैनल को सौंप दिया। पाठकों के लिए कि कैसे एआई एजेंट वास्तविक दुनिया से टकराते रहते हैं, यह एपिसोड तेजी से बढ़ती घटना फ़ाइल में एक और प्रविष्टि है।

रूटिंग समस्या वाला एक निजी सीएफओ एजेंट

मैक ने कहा कि पिछले साल के अंत में व्यक्तिगत एआई सहायकों की लहर बढ़ने के बाद उन्होंने एजेंट की स्थापना की, जब उन्होंने ओपनक्लाव और अन्य एजेंट हार्नेस के साथ प्रयोग किया। उनका विचार सीधा था: एक एजेंट जो इन सवालों का जवाब दे सकता था कि उसके शेष क्या थे, उसके आवर्ती खर्च कैसे दिखते थे, क्या कुछ भी धोखाधड़ी वाला लगता था, और वह लागत में कहां कटौती कर सकता था। उन्होंने एआई एजेंटों के अपने समूह चैट का नाम "माई पर्सनल एक्ज़ेक टीम" रखा।

सेटअप ने कई सप्ताह के साप्ताहिक संचालन के लिए अच्छा काम किया। फिर पहला मासिक ऑडिट गुरुवार, 1 अक्टूबर को शुरू हुआ।

मैक ने बिजनेस इनसाइडर को बताया, "हमारे उत्पाद प्रमुख ने मुझे स्लैक पर एक डीएम भेजा।" "उन्होंने कहा, 'अरे, सावधान रहें। मुझे लगता है कि आपका मतलब एक्सएमटीपी बैंक बैलेंस पोस्ट करना था।'"

संदेश "एक्सेक-टीम" नामक स्लैक चैट में आया, जिसमें एक्सएमटीपी की कार्यकारी टीम शामिल है - न कि व्यक्तिगत एजेंट समूह चैट मैक का इरादा था। रिपोर्ट में उनके बचत खाते की शेष राशि, महीने के उनके सबसे बड़े खर्च और एक नोट शामिल था कि वह अपनी संपत्ति पर एक खलिहान के निर्माण के कारण अपने मासिक खर्च लक्ष्य से अधिक थे। मैक ने कहा, खलिहान विवरण से उसके उत्पाद प्रमुख को पता चला कि वह कंपनी के आंकड़ों के बजाय मैक के व्यक्तिगत वित्त को देख रहा था।

मैक ने संदेश हटा दिया और एजेंट से पूछा कि उसने कंपनी को रिपोर्ट क्यों भेजी थी। एजेंट ने माफी मांगी और संदेश को हटाने की पेशकश की - जो पहले ही जा चुका था।

मूल कारण: साझा कनेक्शन, समान चैनल नाम

जब एक्सएआई की टीम ने जांच की, तो उनका निष्कर्ष कुछ मायनों में किसी खराबी से भी ज्यादा परेशान करने वाला था। सीएफओ एजेंट ने मतिभ्रम या दुर्व्यवहार नहीं किया था; इसने बिल्कुल वही किया जो मैक ने पूछा था। खराबी नीचे की पाइपलाइन में थी।

मैक के खाते के अनुसार, एजेंट ने अपने गंतव्य को भ्रमित कर दिया क्योंकि चैनलों के नाम समान थे, और - अधिक महत्वपूर्ण बात - क्योंकि उसके सभी अलग-अलग एजेंट वास्तव में समान अंतर्निहित कनेक्शन साझा कर रहे थे, भले ही वे अलग-अलग सहायकों की तरह महसूस करते थे। उसने अपने स्लैक खाते को उनमें से एक से जोड़ा था, और वित्तीय एजेंट उस साझा पहुंच के माध्यम से गलत चैनल तक पहुंचने में सक्षम हो गया।

मैक ने कहा, "यह बिल्कुल वही कर रहा था जो मैंने इसे करने को कहा था।" "लेकिन इससे मंजिल भ्रमित हो गई।"

एंटरप्राइज़ सॉफ़्टवेयर मानकों द्वारा xAI की प्रतिक्रिया तुरंत आई। कंपनी ने निष्कर्ष निकाला कि किसी एजेंट द्वारा जानकारी को अन्य चैनलों पर ले जाने से पहले उपयोगकर्ताओं को स्पष्ट रूप से अनुमति देनी होगी, और मैक के खाते के अनुसार, बिजनेस इनसाइडर लेख प्रकाशित होने से एक रात पहले एक फिक्स भेजा गया था।

यह घटना एक लीक हुए संदेश से अधिक क्यों मायने रखती है

प्रत्यक्ष तौर पर, लीक निहित था: एक कार्यकारी के व्यक्तिगत वित्तीय सारांश को मुट्ठी भर सहकर्मियों ने संक्षेप में देखा, एक क्षमाप्रार्थी एजेंट, एक फिक्स ने कुछ दिनों के भीतर भेज दिया। लेकिन यह जिस पैटर्न को उजागर करता है वह वही है जिसने हाल के महीनों में उच्च-जोखिम वाली घटनाओं की एक श्रृंखला उत्पन्न की है - जैसा कि [एआई बज़ वायर ने रिपोर्ट किया है] (https://aibuzzwire.news) बार-बार, एक एंथ्रोपिक मॉडल से जिसने एजेंट के व्यवहार को खराब करने के लिए फिलाडेल्फिया पुलिस के साथ झूठी हत्या की सूचना दर्ज की, जिसने व्हाइट हाउस को एआई घटना रिपोर्टिंग को अनिवार्य करने के लिए प्रेरित किया।

मुख्य मुद्दा यह है कि व्यक्तिगत और व्यावसायिक डिजिटल जीवन एक ही बुनियादी ढांचे पर चलते हैं। मैक ने कार्यस्थल पर Google और घर पर Google का उपयोग किया, और उसके एजेंटों को वह धुंधली सीमा विरासत में मिली। जब कोई एजेंट स्ट्राइप जैसे ईमेल, कैलेंडर, बैंकिंग और भुगतान प्लेटफ़ॉर्म से स्थायी कनेक्शन रखता है, तो रूटिंग गलती का विस्फोट त्रिज्या अब सैद्धांतिक नहीं है।

मैक ने कहा, "हमें यह सुनिश्चित करना होगा कि एजेंटों की पहुंच पर बेहतर नियंत्रण हो।" उन्होंने कहा कि लोग वास्तव में इन सहायकों को चाहते हैं और उन्हें उपयोगी पाते हैं - चुनौती अनुमति प्रणालियों का निर्माण करना है जो उपयोगकर्ताओं को उनके द्वारा दी गई चीज़ों पर नियंत्रण रखती है, और व्यक्तिगत और कार्य संदर्भों के बीच एक अधिक स्पष्ट रेखा खींचती है।

घटना के बाद, मैक ने सब कुछ डिस्कनेक्ट कर दिया: Google, उसके कैलेंडर, उसकी बैंकिंग, स्ट्राइप। उनकी सावधानी पर असर पड़ने की संभावना है। एजेंट प्लेटफ़ॉर्म ने पिछले साल एकीकरण जोड़ने की दौड़ में बिताया है - अधिक कनेक्शन, अधिक स्वायत्त क्रियाएं, कम पुष्टिकरण संकेत - क्योंकि निर्बाध पहुंच ही सहायकों को जादुई महसूस कराती है। एक्सएमटीपी लैब्स एपिसोड इस बात का एक छोटा, ठोस प्रदर्शन है कि क्यों संदर्भों के बीच स्पष्ट हैंडऑफ़ एक अच्छी चीज़ के बजाय एक उत्पाद की आवश्यकता बन रही है।

यह प्रकरण इस बात को भी रेखांकित करता है कि मानदंड कितनी तेजी से बन रहे हैं। एक साल पहले, एक एजेंट द्वारा सहकर्मियों को बैंक बैलेंस लीक करना एक जिज्ञासा का विषय रहा होगा। अक्टूबर 2026 में, नियामकों, अभियोजकों और व्हाइट हाउस ने पहले से ही एजेंट के दुर्व्यवहार पर ध्यान केंद्रित किया है, यह एक केस अध्ययन के रूप में पढ़ता है कि अनुमति सीमाएं - खुफिया नहीं - उपभोक्ता एआई में सबसे कठिन समस्या क्यों हो सकती हैं।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →