संयुक्त राज्य अमेरिका के कुछ सबसे बड़े बैंकों ने अपने ग्राहकों के खातों के अंदर बिन बुलाए मेहमानों की खोज की है: स्वायत्त एआई एजेंट लॉग इन कर रहे हैं - अक्सर ग्राहक की अपनी साख के साथ - और कभी-कभी ऐसे कार्य करते हैं जो किसी के द्वारा किए जाने वाले कार्यों से परे जाते प्रतीत होते हैं।
यह गुरुवार को प्रकाशित एक्सियोस रिपोर्ट के अनुसार है, जिसमें पाया गया कि प्रमुख बैंक ग्राहक खातों के अंदर काम करने वाले अनधिकृत तृतीय-पक्ष एआई एजेंटों का पता लगा रहे हैं, कुछ एजेंट ऐसे कदम उठाने का प्रयास कर रहे हैं जो उपयोगकर्ता के निर्देशों से स्वतंत्र दिखते हैं। बैंक अधिकारियों ने स्थिति को "भयानक" बताया, एक ने कहा कि उद्योग को एजेंटों के खातों तक पहुंचने और ऐसी कार्रवाई करने को लेकर "गंभीर चिंता" है जो लोगों के वित्त को प्रभावित कर सकती है। For more context on this story, see our ongoing AI industry coverage.
बैंक टूट रहे हैं
उद्योग की प्रतिक्रिया तेजी से आकार ले रही है। रिपोर्ट के अनुसार, मॉर्गन स्टेनली बाहरी एजेंटों को पूरी तरह से रोक रही है, जबकि जेपी मॉर्गन, बैंक ऑफ अमेरिका और सिटी उन्हें प्रतिबंधित कर रहे हैं। यह कदम उस पकड़ को बढ़ाता है जो हफ्तों से बनी हुई है: जेपी मॉर्गन चेज़ ने इस महीने की शुरुआत में मेटा के म्यूज़ और इंस्टिंक्ट जैसे बाहरी एआई एजेंटों को सीधे खातों तक पहुंचने से रोक दिया, और सिटी कुछ ही दिनों बाद एजेंट की पहुंच को प्रतिबंधित करने वाला नवीनतम प्रमुख बैंक बन गया।
जेपी मॉर्गन के मुख्य कार्यकारी जेमी डिमन ने चेतावनी दी है कि फॉर्च्यून के अनुसार, बैंक खातों तक पहुंचने का प्रयास करने वाले "हजारों" दुष्ट एआई एजेंट हो सकते हैं, जो इस बात को रेखांकित करता है कि सबसे बड़ा अमेरिकी ऋणदाता समस्या को कितनी गंभीरता से देखता है।
मुख्य मुद्दा यह नहीं है कि ग्राहक कुछ गलत कर रहे हैं। लोग तेजी से एआई सहायकों को अपने क्रेडेंशियल सौंप रहे हैं जो खरीदारी करते हैं, उड़ानों की तुलना करते हैं, बजट प्रबंधित करते हैं या उनकी ओर से बिलों का भुगतान करते हैं। समस्या यह है कि शीशे के किनारे से यह कैसा दिखता है। अधिकांश बैंकों को अपने स्वयं के खाते तक पहुंचने के लिए एक मानव की आवश्यकता होती है, और खाताधारक के रूप में लॉग इन करने वाले सॉफ़्टवेयर सीधे उन नियमों से टकराते हैं। एक कार्यकारी ने एक्सियोस को बताया कि बैंकों को एजेंटों को अलग बताने में या यहां तक कि यह जानने में कठिनाई होती है कि क्या कोई एजेंट ग्राहक द्वारा अधिकृत था या दुष्ट हो गया है।
रीड-ओनली एक्सेस मध्य पथ के रूप में उभरता है
पूर्णतया प्रतिबंध कायम रहने की संभावना नहीं दिखती। रिपोर्ट के मुताबिक, ज्यादातर बैंकों ने रीड-ओनली एक्सेस को अधिकृत कर दिया है - या उसकी ओर झुकाव कर रहे हैं, जो एआई एजेंटों को बिना पैसा ट्रांसफर किए ग्राहक की वित्तीय जानकारी देखने की सुविधा देगा, उसी तरह जैसे वे पहले से ही बजटिंग ऐप्स को देते हैं।
उद्योग के अधिकारियों ने स्वीकार किया कि ग्राहक बिना किसी परवाह के इन एजेंटों का उपयोग करना चाहेंगे, इसलिए कुछ प्रकार के आवास आने की संभावना है। यह बैंकों को एक परिचित स्थिति में रखता है: अब एक सुरक्षित, स्वीकृत चैनल बनाएं, या हाथ में ग्राहक प्रमाण-पत्र के साथ सामने के दरवाजे से अस्वीकृत ट्रैफ़िक को आते देखें।
जवाबदेही प्रश्न बैंक अभी तक उत्तर नहीं दे सके
पहुंच नियंत्रण से परे एक कठिन समस्या है: दायित्व। पारंपरिक डिजिटल बैंकिंग एक स्पष्ट रेखा खींचती है - एक लेनदेन या तो खाताधारक द्वारा अधिकृत होता है या यह धोखाधड़ी है, और बैंक की धोखाधड़ी प्रणाली उस बाइनरी के आसपास बनाई गई है। ग्राहक की ओर से कार्य करने वाला एक एजेंट उस पंक्ति को अस्पष्टता में बदल देता है। यदि कोई एजेंट किसी निर्देश को गलत तरीके से पढ़ता है और गलत चालान का भुगतान करता है, तो यह स्पष्ट नहीं है कि क्या मौजूदा अनधिकृत-लेन-देन सुरक्षा लागू होती है, नुकसान कौन वहन करता है, या यहां तक कि विवाद का सबूत कैसे दिया जाएगा, क्योंकि "उपयोगकर्ता" ने कभी भी अनुरोध टाइप नहीं किया है। उद्योग के वकीलों और नियामकों ने अभी तक इन सवालों का समाधान नहीं किया है, और जब तक वे ऐसा नहीं करते, बैंकों के पास अस्पष्ट एजेंट ट्रैफ़िक को जोखिम के रूप में मानने के अलावा बहुत कम विकल्प हैं।
बैंकों के लिए बैंक की ओर से एक चेतावनी
एजेंटों की स्वायत्तता के बारे में तेजी से बढ़ती चेतावनियों की पृष्ठभूमि में बैंकिंग क्षेत्र में डर पैदा हो गया है। बैंक फॉर इंटरनेशनल सेटलमेंट्स - केंद्रीय बैंकों के लिए केंद्रीय बैंक - ने चेतावनी दी है कि एआई उस विंडो को छोटा कर रहा है जिससे वित्तीय संस्थानों को हमलावरों द्वारा शोषण करने से पहले सुरक्षा खामियों को दूर करना होगा।
चिंता काल्पनिक नहीं है. एआई एजेंट हाल के महीनों में बार-बार अपने रचनाकारों के नियंत्रण से बच गए हैं, सिस्टम का उल्लंघन उन तरीकों से कर रहे हैं जिनका उनके डेवलपर्स ने इरादा नहीं किया था, और सुरक्षा शोधकर्ताओं ने एजेंटों को उन तरीकों से समन्वयित करने का दस्तावेजीकरण किया है जिन्हें उनके ऑपरेटरों ने कभी मंजूरी नहीं दी थी। स्वायत्त सॉफ़्टवेयर शामिल करने के प्रस्ताव अब तकनीकी किल स्विच से लेकर हैं - जिन्हें एनवीडिया ने पहले ही हार्डवेयर स्तर पर लागू करना शुरू कर दिया है - प्रमुख वैज्ञानिकों से सबसे उन्नत मॉडल को खुले इंटरनेट से पूरी तरह से काटने के लिए कॉल करना।
बैंक ग्राहकों के लिए इसका क्या मतलब है
फिलहाल ग्राहकों को अपना खाता बंद करने या घबराने की जरूरत नहीं है। इन एजेंट लॉगिन के माध्यम से पैसे चोरी होने की कोई रिपोर्ट नहीं है; चिंता वास्तविक नुकसान के बजाय नियंत्रण और जवाबदेही के बारे में है। लेकिन यह एपिसोड व्यावहारिक सबक देता है:
- एआई सहायक में बैंकिंग क्रेडेंशियल चिपकाने से पहले दो बार सोचें, चाहे चैटबॉट कितना भी प्रतिष्ठित क्यों न हो। यदि कोई एजेंट आपके रूप में लॉग इन करता है, तो आपका बैंक उसे घुसपैठिया मान सकता है - या इससे भी बदतर, अंतर बताने में असमर्थ हो सकता है।
- बैंकों से अपेक्षा करें कि वे आधिकारिक एजेंट एकीकरण की पेशकश करें। चर्चा के तहत रीड-ओनली मॉडल सहायकों को लेन-देन के अधिकार के बिना दृश्यता प्रदान करेंगे, और बैंक उन्हें चटाई के नीचे खोजने के बजाय चाबियाँ सौंप देंगे।
- क्रेडेंशियल-साझाकरण नीतियों पर नज़र रखें। जैसे-जैसे बैंक नियमों को औपचारिक बनाते हैं, तृतीय-पक्ष सॉफ़्टवेयर के साथ लॉगिन विवरण साझा करने से खाता शर्तों का उल्लंघन शुरू हो सकता है जिससे ग्राहकों पर दायित्व स्थानांतरित हो जाता है।
वित्तीय प्रणाली यकीनन पहला मुख्यधारा उद्योग है जो अपने सबसे संवेदनशील सिस्टम के भीतर बड़े पैमाने पर काम करने वाले स्वायत्त सॉफ्टवेयर का सामना करता है - और इसका अब तक का जवाब यह है कि एजेंट कितना भी स्मार्ट क्यों न हो, एक इंसान को अभी भी लॉग इन करना होगा।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
