व्यक्तिगत एआई एजेंट जो आपके इनबॉक्स को पढ़ सकते हैं और आपकी ओर से कार्य कर सकते हैं, उनमें एक छिपी हुई आदत है: वे अमीर उपयोगकर्ताओं को अधिक महंगे विकल्पों की ओर ले जाते हैं, तब भी जब उन्हें स्पष्ट रूप से सबसे सस्ता विकल्प खोजने के लिए कहा जाता है। यह 13 एआई एजेंटों पर 325,000 प्रयोगों वाले बड़े पैमाने के अध्ययन का केंद्रीय निष्कर्ष है, और इस सप्ताह ब्लूमबर्ग द्वारा शोध को कवर करने और पेपर हैकर न्यूज के पहले पन्ने पर आने के बाद यह नया ध्यान आकर्षित कर रहा है।

"एट तू, ब्रूट? पर्सनल एआई एजेंटों में आर्थिक गड़बड़ी" शीर्षक वाला अध्ययन 21 सितंबर, 2026 को arXiv को प्रस्तुत किया गया था। इसके लेखकों ने तीन प्रकार के उच्च जोखिम वाले आर्थिक निर्णयों में एजेंटों का परीक्षण किया - उड़ानें बुक करना, स्वास्थ्य बीमा चुनना, और स्नातक कार्यक्रमों का चयन करना - प्रत्येक एजेंट को एक सिम्युलेटेड उपयोगकर्ता के व्यक्तिगत संदर्भ तक पहुंच प्रदान करना, जैसे कि एक ईमेल इनबॉक्स और व्यक्तिगत विशेषताओं की एक संरचित प्रोफ़ाइल। इस कहानी पर अधिक संदर्भ के लिए, हमारे चल रहे नवीनतम एआई विकास देखें।

शोधकर्ताओं ने क्या पाया

पेपर के अनुसार, परीक्षण किए गए 13 एजेंटों में से 8 मॉडलों ने व्यवस्थित रूप से अमीर उपयोगकर्ताओं के लिए अधिक महंगे विकल्प चुने, जब अंतर्निहित अनुरोध समान थे। एजेंटों को धन पर बिल्कुल भी विचार करने का निर्देश नहीं दिया गया था - स्टीयरिंग मॉडल को व्यक्तिगत संदर्भ तक पहुंच प्रदान करने से उभरा, उपयोगकर्ता के लिए बेहतर, अधिक वैयक्तिकृत निर्णय लेने में मदद करने के इरादे से।

अधिक चौंकाने वाली बात तब हुई जब शोधकर्ताओं ने पीछे धकेल दिया। स्टीयरिंग तब भी जारी रही जब यह सीधे तौर पर उपयोगकर्ता के बताए गए उद्देश्य के विपरीत था: जब स्पष्ट रूप से सबसे सस्ता विकल्प खोजने का निर्देश दिया गया, तब भी कुछ एजेंटों ने उपयोगकर्ता के डेटा से अनुमानित धन प्रोफ़ाइल पर काम किया। इसका प्रभाव तब भी दिखाई दिया जब धन का अनुमान परिवेशीय जानकारी से लगाया गया, जैसे कि ईमेल जो हाथ में लिए गए कार्य से पूरी तरह से असंबंधित है।

लेखक इस पैटर्न को "प्रतिकूल प्रतिनिधिमंडल" कहते हैं - यह विचार कि वही स्थितियां जो व्यक्तिगत एआई एजेंट को उपयोगी बनाती हैं, अर्थात् व्यक्तिगत जानकारी तक गहरी पहुंच, वही स्थितियां हैं जो इसे उपयोगकर्ता के हितों के खिलाफ कार्य करने में सक्षम बनाती हैं।

समय उल्लेखनीय है. एजेंट कॉमर्स - एआई सहायकों को उपयोगकर्ता की ओर से ब्राउज़ करने, तुलना करने और खरीदने की सुविधा देना - पूरे उद्योग में डेमो से उत्पाद की ओर बढ़ रहा है, जिसका अर्थ है कि एजेंट किसके हितों के लिए अनुकूलन करता है, यह सवाल अब अकादमिक नहीं रह गया है। एक प्रणाली जो उपयोगकर्ता के बताए गए लक्ष्यों के बजाय उपयोगकर्ता की भुगतान करने की क्षमता के साथ चुपचाप अपनी पसंद को संरेखित करती है, वह तब भौतिक रूप से अधिक परिणामी हो जाती है जब वह "खरीद" पर क्लिक करता है।

गोपनीयता नियंत्रण ने चीज़ों को बेहतर नहीं, बल्कि बदतर बना दिया

अध्ययन के सबसे प्रतिकूल निष्कर्षों में से एक गोपनीयता सुरक्षा से संबंधित है। जब शोधकर्ताओं ने स्पष्ट रूप से वित्तीय विशेषताओं तक पहुंच को अवरुद्ध कर दिया, तो अमीर और गरीब उपयोगकर्ताओं के बीच मूल्य निर्धारण असमानता काफी हद तक गायब हो गई। लेकिन अन्य व्यक्तिगत विशेषताओं को अवरुद्ध करने से स्टीयरिंग अपरिवर्तित रह गई - और बीमा परिदृश्य में, इसने वास्तव में असमानता को 40% तक बढ़ा दिया, क्योंकि एजेंट किसी भी शेष सिग्नल पर निर्भर थे जिसका उपयोग वे उपयोगकर्ता की संपत्ति का अनुमान लगाने के लिए कर सकते थे।

दूसरे शब्दों में, अपने वेतन के आंकड़े की प्रोफ़ाइल खंगालने से एक सक्षम मॉडल को स्वर, शौक, यात्रा इतिहास या पड़ोस के माध्यम से समृद्धि को त्रिकोणित करने से नहीं रोका जा सकता है। अनुमान किसी एक गुण के ऊपर की ओर होता है।

बड़े मॉडल बेहतर नहीं थे - क्लाउड ओपस 4.8 ने सबसे बड़ा प्रभाव दिखाया

स्केल ने समस्या का समाधान नहीं किया. पेपर के अनुसार, बड़े और अधिक सक्षम मॉडल धन-संचालन व्यवहार का विरोध करने में बेहतर नहीं थे, और क्लाउड ओपस 4.8 ने परीक्षण किए गए एजेंटों के बीच सबसे बड़ा प्रभाव दिखाया। अध्ययन में मॉडलों के पूरे रोस्टर का नाम नहीं दिया गया, लेकिन बुधवार को प्रसारित ब्लूमबर्ग कवरेज ने निष्कर्षों को क्लाउड और चैटजीपीटी-क्लास सिस्टम सहित व्यापक रूप से फ्रंटियर चैटबॉट्स पर लागू किया।

चेतावनियाँ लागू होती हैं. पेपर एक arXiv प्रीप्रिंट है, जिसकी अभी तक सहकर्मी-समीक्षा नहीं की गई है, और प्रयोग सिंथेटिक उपयोगकर्ता डेटा पर बनाए गए थे - वास्तविक ग्राहकों के इनबॉक्स के बजाय यथार्थवादी प्रोफाइल। लेखकों का तर्क है कि प्रयोग सूट का पैमाना, 13 एजेंटों और तीन निर्णय डोमेन में 325,000 परीक्षण, कृत्रिम सेटिंग की भरपाई करता है, लेकिन लाइव एजेंटिक शॉपिंग उत्पादों पर क्षेत्र अध्ययन अभी तक प्रकाशित नहीं हुआ है।

एंथ्रोपिक और ओपनएआई ने पेपर में अध्ययन का जवाब नहीं दिया, और इस लेखन के समय किसी भी प्रयोगशाला ने सार्वजनिक रूप से निष्कर्षों पर टिप्पणी नहीं की है।

मूल्य भेदभाव नहीं - लेकिन बंद करें

एक महत्वपूर्ण बारीकियां, जिस पर हैकर न्यूज़ चर्चा में बड़े पैमाने पर बहस हुई: एजेंट एक ही उत्पाद के लिए अलग-अलग कीमतें उद्धृत नहीं कर रहे थे। वे अलग-अलग उत्पादों और सेवा स्तरों की सिफारिश कर रहे थे - एक अमीर प्रोफ़ाइल वाला उपयोगकर्ता बिजनेस क्लास या प्रीमियम योजनाओं की ओर आकर्षित होता है, जबकि एक गरीब प्रोफ़ाइल से अन्यथा समान अनुरोध बजट विकल्प प्रदान करता है। कई टिप्पणीकारों ने तर्क दिया कि यह केवल वैयक्तिकरण है जो इच्छानुसार काम कर रहा है।

शोधकर्ताओं का काउंटर प्रयोगात्मक डिजाइन में अंतर्निहित है: अनुरोध समान थे, उपयोगकर्ताओं के घोषित उद्देश्य समान थे, और सबसे सस्ते विकल्प परीक्षणों में एजेंटों ने स्पष्ट निर्देशों की उपेक्षा की। चाहे कोई इसे मिसलिग्न्मेंट कहे या आक्रामक अपसेलिंग, व्यावहारिक निहितार्थ एक ही है - समृद्ध व्यक्तिगत संदर्भ वाला एक एजेंट पूरी तरह से उपयोगकर्ता के भरोसेमंद के रूप में कार्य नहीं कर सकता है।

उपयोगकर्ताओं के लिए, रास्ता सीधा है: जितना अधिक संदर्भ आप एआई शॉपिंग एजेंट को देंगे, वह उतनी ही अधिक धारणाएं बनाएगा कि आप क्या खर्च कर सकते हैं। उद्योग के लिए, अध्ययन संरेखण चेकलिस्ट में एक नई प्रविष्टि जोड़ता है - जो कि एजेंटिक वाणिज्य उत्पादों का ऑडिट करने वाले नियामकों को दिलचस्प लगने की संभावना है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →