अटलांटिक के दोनों किनारों पर कवरेज की लहर ने उस चिंता को बढ़ा दिया है जिसे नियामक दो साल से व्यक्त कर रहे हैं: जब लोग एआई चैटबॉट्स से अपने पैसे के बारे में सवाल पूछते हैं, तो उत्तर सही होने की तुलना में अक्सर गलत होते हैं। फाइनेंशियल टाइम्स के अनुसार, यूके के एक हालिया अध्ययन में पाया गया कि एआई चैटबॉट "ज्यादातर समय" वित्तीय प्रश्नों के गलत उत्तर देते हैं।
नवीनतम ब्रेकिंग एआई समाचार और विश्लेषण के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) पर जाएं।
अध्ययन में क्या पाया गया
शीर्षक आंकड़ा व्यापार प्रकाशन फाइनेंशियल रिपोर्टर से आया है, जिसने सितंबर की शुरुआत में रिपोर्ट दी थी कि सैटर्न के शोध का हवाला देते हुए एआई मॉडल 57% समय गलत वित्तीय सलाह देते हैं। IBS इंटेलिजेंस ने समान 57% त्रुटि दर की सूचना दी। याहू फाइनेंस के कवरेज में यूके सेवानिवृत्ति मंच पेंशनबी के संबंध में शोध का वर्णन किया गया है, जबकि बीइनक्रिप्टो ने बताया कि परीक्षण में लगभग 10,000 उत्तर दिए गए। प्रारंभिक कवरेज में अलग-अलग विशेषताओं से पता चलता है कि अनुसंधान में कई पक्ष शामिल थे; आउटलेट्स में सुसंगत धागा विफलता दर का पैमाना है।
त्रुटियाँ अमूर्त नहीं हैं. मॉर्टगेज प्रोफेशनल अमेरिका ने कवरेज से एक उदाहरण पर प्रकाश डाला: एक चैटबॉट ने एक मॉर्टगेज उधारकर्ता को बताया कि भुगतान अवकाश लेने से उनके क्रेडिट स्कोर पर कोई असर नहीं पड़ेगा। यह हो सकता है - और उस उत्तर पर एक बड़ा वित्तीय निर्णय लेने वाले परिवार के लिए, अंतर करना महंगा है।
इस सप्ताह तक, कहानी मुख्यधारा में आ गई थी। इन्वेस्टमेंटन्यूज ने "अध्ययन में पाया गया है कि एआई चैटबॉट ज्यादातर समय गलत वित्तीय उत्तर देते हैं" शीर्षक के तहत रिपोर्ट की है और टॉम गाइड ने पाठकों को चेतावनी दी है कि अध्ययन के निष्कर्षों के आधार पर एआई के कारण उन्हें पैसे खर्च करने पड़ सकते हैं।
एक पैटर्न, बाहरी नहीं
यूके के निष्कर्ष समान निष्कर्षों के साथ अनुसंधान के बढ़ते ढेर के शीर्ष पर हैं। मार्च में व्यापक रूप से कवर किए गए पिछले विश्लेषण में पाया गया कि चैटजीपीटी ने लगभग 35% समय पैसे के सवालों के गलत उत्तर दिए। स्टैनफोर्ड और एमआईटी शोधकर्ताओं ने अगस्त में पाया था कि एआई ने पुरुषों की तुलना में महिलाओं को खराब निवेश सलाह दी थी। फाइनेंशियल टाइम्स ने अगस्त में ही रिपोर्ट दी थी कि लगभग आधे युवा ब्रितानियों का मानना है कि एआई वित्तीय सलाह विनियमित है - एक धारणा अंतर जो गलत उत्तरों को अधिक खतरनाक बनाता है, कम नहीं।
और उपयोग बिना किसी परवाह के बढ़ता रहता है। नेरडवालेट की मध्य-वर्ष डेटा रिपोर्टिंग में पाया गया कि अमेरिकी पहले से ही बड़ी संख्या में वित्तीय सलाह के लिए चैटबॉट का उपयोग कर रहे हैं, यही कारण है कि सटीकता के निष्कर्ष अकादमिक सामान्य ज्ञान के रूप में दायर किए जाने के बजाय उपभोक्ता अधिवक्ताओं का ध्यान आकर्षित कर रहे हैं।
वित्तीय प्रश्न चैटबॉट क्यों तोड़ते हैं
वित्तीय सलाह उन सभी चीज़ों के प्रतिच्छेदन पर बैठती है जिन्हें बड़े भाषा मॉडल सबसे कठिन पाते हैं। सही उत्तर वर्तमान, क्षेत्राधिकार-विशिष्ट नियमों पर निर्भर करते हैं - कर सीमाएँ, क्रेडिट-स्कोरिंग यांत्रिकी, पेंशन नियम - जो देश के अनुसार बदलते और भिन्न होते हैं। मॉडल आत्मविश्वास से भरी सामान्यताओं के साथ बचाव करते हैं, और उपयोगकर्ता अक्सर व्यक्तिगत संदर्भ (आय, मौजूदा ऋण, लक्ष्य) प्रदान नहीं करते हैं जो यह निर्धारित करता है कि सामान्य मार्गदर्शन उन पर लागू होता है या नहीं।
पैसे के मामले में भी एक विषमता की समस्या है: एक कविता के बारे में एक गलत उत्तर शर्मनाक है, लेकिन भुगतान अवकाश के क्रेडिट प्रभाव के बारे में एक गलत उत्तर वास्तविक वित्तीय क्षति का कारण बन सकता है, जिसका महीनों बाद पता चलता है।
नियामकों और उपयोगकर्ताओं को इससे क्या लेना चाहिए
यूके के नियामकों ने कम से कम 2025 के अंत से उपभोक्ताओं को अनियमित एआई वित्तीय मार्गदर्शन के बारे में चेतावनी दी है, जब द गार्जियन ने गलत वित्तीय सलाह देने वाले चैटबॉट्स पर आधिकारिक चेतावनियों की सूचना दी थी। नया शोध उन चेतावनियों को एक ठोस विफलता दर देता है। समझदार व्याख्या यह नहीं है कि एआई व्यक्तिगत वित्त के लिए बेकार है - मॉडल अवधारणाओं को अच्छी तरह से समझा सकते हैं - लेकिन शिक्षा और सलाह के बीच की रेखा उपयोगकर्ताओं के लिए धुंधली है और केवल नियामकों की नियम पुस्तिकाओं में स्पष्ट है।
जब तक डोमेन-विशिष्ट वित्तीय प्रश्नों पर चैटबॉट सटीकता में तेजी से सुधार नहीं होता है, तब तक अध्ययन के कवरेज से व्यावहारिक मार्गदर्शन सीधा है: एआई मनी उत्तरों को अनुसंधान के लिए शुरुआती बिंदु के रूप में मानें, निर्णय के रूप में कभी नहीं, और परिणामी कुछ भी सत्यापित करें - क्रेडिट निहितार्थ, कर उपचार, पेंशन नियम - कार्य करने से पहले विनियमित स्रोतों के खिलाफ।
एआई से आगे रहें
एआई उद्योग के सबसे महत्वपूर्ण विकासों की निरंतर कवरेज के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) को बुकमार्क करें और कोई भी ब्रेकिंग स्टोरी न चूकें।
अधिक AI समाचार पढ़ें
