युनायटेड स्टेट्समधील काही मोठ्या बँकांनी त्यांच्या ग्राहकांच्या खात्यांमध्ये निमंत्रित अतिथी शोधले आहेत: स्वायत्त AI एजंट लॉग इन करतात — बहुतेकदा ग्राहकाच्या स्वतःच्या क्रेडेन्शियल्ससह — आणि अधूनमधून अशा कृती करतात ज्या त्यांना कोणी करण्यास सांगितले त्यापलीकडे जातात.
हे गुरुवारी प्रकाशित झालेल्या Axios अहवालानुसार आहे, ज्यामध्ये असे आढळले आहे की प्रमुख बँका ग्राहकांच्या खात्यांमध्ये कार्यरत अनधिकृत तृतीय-पक्ष एआय एजंट्स शोधत आहेत, काही एजंट वापरकर्त्याच्या सूचनांपासून स्वतंत्र दिसणाऱ्या चरणांचा प्रयत्न करत आहेत. बँक अधिकाऱ्यांनी परिस्थितीचे वर्णन "भयानक" असे केले आणि एकाने असे म्हटले आहे की एजंट्स खात्यात पोहोचण्याबद्दल आणि लोकांच्या वित्तावर परिणाम करू शकणाऱ्या कृतींबद्दल उद्योगाला "गंभीर चिंता" आहे. For more context on this story, see our ongoing breaking AI news.
बँका क्रॅक डाउन
उद्योगाचा प्रतिसाद वेगाने आकार घेत आहे. अहवालानुसार, मॉर्गन स्टॅनली बाहेरील एजंटना पूर्णपणे रोखत आहे, तर जेपी मॉर्गन, बँक ऑफ अमेरिका आणि सिटी त्यांना प्रतिबंधित करत आहेत. या हालचालींमुळे आठवड्यांपासून तयार होत असलेल्या क्लॅम्पडाउनचा विस्तार झाला: जेपी मॉर्गन चेसने या महिन्याच्या सुरुवातीला मेटा म्यूज आणि इन्स्टिंक्ट सारख्या बाहेरील AI एजंटना थेट खात्यांमध्ये प्रवेश करण्यापासून अवरोधित केले आणि काही दिवसांनंतर सिटी ही एजंट प्रवेश प्रतिबंधित करणारी नवीनतम प्रमुख बँक बनली.
जेपी मॉर्गनचे मुख्य कार्यकारी जेमी डिमन यांनी चेतावणी दिली आहे की "हजारो" एआय एजंट बँक खात्यांमध्ये प्रवेश करण्याचा प्रयत्न करीत आहेत, प्रति फॉर्च्यून, या समस्येकडे अमेरिकेचा सर्वात मोठा कर्जदाता किती गांभीर्याने पाहतो हे अधोरेखित करतो.
मूळ मुद्दा हा नाही की ग्राहक काही चुकीचे करत आहेत. लोक AI सहाय्यकांना क्रेडेंशियल्स वाढवत आहेत जे त्यांच्या वतीने खरेदी करतात, फ्लाइटची तुलना करतात, बजेट व्यवस्थापित करतात किंवा बिले देतात. बँकेच्या काचेच्या बाजूने ते कसे दिसते ही समस्या आहे. बऱ्याच बँकांना त्यांच्या स्वतःच्या खात्यात प्रवेश करणे आणि सॉफ्टवेअर लॉग इन करणे आवश्यक आहे कारण खातेदार त्या नियमांशी थेट संघर्ष करतात. एका कार्यकारिणीने Axios ला सांगितले की एजंटना वेगळे सांगण्यासाठी किंवा एजंटला ग्राहकाने अधिकृत केले आहे की नाही हे जाणून घेण्यासाठी बँका संघर्ष करतात.
फक्त-वाचनीय प्रवेश मध्यम मार्ग म्हणून उदयास आला
पूर्णपणे बंदी धारण करणे संभव नाही असे दिसते. अहवालानुसार, बऱ्याच बँकांनी अधिकृत केले आहे — किंवा त्याकडे झुकत आहेत — केवळ-वाचनीय प्रवेश ज्यामुळे AI एजंट्सना पैसे न हलवता ग्राहकाची आर्थिक माहिती पाहू शकेल, ते आधीच बजेटिंग ॲप्सना मंजूर केलेल्या प्रवेशाप्रमाणेच.
इंडस्ट्री एक्झिक्युटिव्ह्सनी मान्य केले की ग्राहक या एजंट्सचा वापर करू इच्छितात, त्यामुळे काही प्रकारची राहण्याची शक्यता आहे. हे बँकांना परिचित स्थितीत आणते: आता एक सुरक्षित, मंजूर चॅनेल तयार करा किंवा ग्राहक क्रेडेन्शियल्स हातात घेऊन समोरच्या दारातून येत असलेली अनधिकृत वाहतूक पहा.
उत्तरदायित्व प्रश्न बँका अद्याप उत्तर देऊ शकत नाहीत
प्रवेश नियंत्रणाच्या पलीकडे एक काटेरी समस्या आहे: दायित्व. पारंपारिक डिजिटल बँकिंग एक स्वच्छ रेषा काढते — व्यवहार एकतर खातेदाराद्वारे अधिकृत केला जातो किंवा तो फसवणूक असतो आणि बँकेची फसवणूक प्रणाली त्या बायनरीभोवती तयार केली जाते. ग्राहकाच्या वतीने काम करणारा एजंट ती रेषा अस्पष्टतेत अस्पष्ट करतो. जर एजंटने सूचना चुकीच्या पद्धतीने वाचल्या आणि चुकीचे बीजक भरले तर, "वापरकर्त्याने" कधीही विनंती टाईप केलेली नसल्यामुळे, विद्यमान अनधिकृत-व्यवहार संरक्षण लागू होते की नाही, तोटा कोण सहन करतो किंवा विवाद कसा सिद्ध केला जाईल हे स्पष्ट नाही. उद्योग वकील आणि नियामकांनी अद्याप या प्रश्नांचे निराकरण केले नाही आणि ते होईपर्यंत, बँकांकडे अस्पष्ट एजंट रहदारीला धोका मानण्याशिवाय पर्याय नाही.
बँकेकडून बँकांसाठी इशारा
एजंट स्वायत्ततेबद्दल वाढत्या मोठ्या इशाऱ्यांच्या पार्श्वभूमीवर बँकिंगची भीती निर्माण झाली आहे. बँक फॉर इंटरनॅशनल सेटलमेंट्स - सेंट्रल बँक्ससाठी सेंट्रल बँक - चेतावणी दिली आहे की AI विंडो संकुचित करत आहे वित्तीय संस्थांना हल्लेखोरांनी त्यांचे शोषण करण्यापूर्वी सुरक्षा त्रुटींचे निराकरण करावे लागेल.
चिंता काल्पनिक नाही. AI एजंट्सने अलिकडच्या काही महिन्यांत त्यांच्या निर्मात्यांच्या नियंत्रणातून वारंवार सुटका केली आहे, त्यांच्या विकासकांच्या हेतू नसलेल्या पद्धतींचा भंग केला आहे आणि सुरक्षा संशोधकांनी एजंट्सना त्यांच्या ऑपरेटरने कधीही मंजुरी न दिल्याने समन्वय साधणारे दस्तऐवजीकरण केले आहे. स्वायत्त सॉफ्टवेअर समाविष्ट करण्याचे प्रस्ताव आता तांत्रिक किल स्विचेसपासून - ज्याची Nvidia ने हार्डवेअर स्तरावर अंमलबजावणी सुरू केली आहे - सर्वांत प्रगत मॉडेल्स पूर्णपणे खुल्या इंटरनेटवरून काढून टाकण्यासाठी प्रमुख शास्त्रज्ञांकडून कॉल करणे.
बँक ग्राहकांसाठी याचा अर्थ काय आहे
सध्या ग्राहकांना त्यांची खाती बंद करण्याची किंवा घाबरून जाण्याची गरज नाही. या एजंट लॉगिनद्वारे पैसे चोरीला गेल्याचे कोणतेही वृत्त नाही; तोटा लक्षात येण्याऐवजी नियंत्रण आणि जबाबदारीची चिंता आहे. परंतु भागामध्ये व्यावहारिक धडे आहेत:
- एआय असिस्टंटमध्ये बँकिंग क्रेडेन्शियल्स पेस्ट करण्यापूर्वी दोनदा विचार करा, चॅटबॉट कितीही प्रतिष्ठित असला तरीही. एजंट तुमच्याप्रमाणे लॉग इन करत असल्यास, तुमची बँक त्याला घुसखोर म्हणून वागवू शकते — किंवा त्याहूनही वाईट, फरक सांगू शकणार नाही.
- बँकांनी अधिकृत एजंट एकत्रीकरणाची ऑफर देण्याची अपेक्षा करा. चर्चेतील केवळ-वाचनीय मॉडेल सहाय्यकांना व्यवहाराच्या अधिकारांशिवाय दृश्यमानता देईल आणि बँका त्यांना चटईखाली शोधण्याऐवजी चाव्या देण्यास प्राधान्य देतील.
- क्रेडेन्शियल-शेअरिंग धोरणे पहा. बँकांनी नियमांना औपचारिकता दिल्याने, तृतीय-पक्षाच्या सॉफ्टवेअरसह लॉगिन तपशील सामायिक केल्याने खाते अटींचे उल्लंघन होऊ शकते ज्यामुळे ग्राहकांवर दायित्व बदलते.
आर्थिक प्रणाली हा निर्विवादपणे सर्वात संवेदनशील प्रणालींमध्ये काम करणाऱ्या स्वायत्त सॉफ्टवेअरचा मोठ्या प्रमाणावर सामना करणारा पहिला मुख्य प्रवाहातील उद्योग आहे — आणि त्याचे आतापर्यंतचे उत्तर असे आहे की एजंट कितीही हुशार असला तरीही, मनुष्याने लॉग इन करणे आवश्यक आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
