प्रोसीडिंग्स ऑफ द नेशनल एकेडमी ऑफ साइंसेज में प्रकाशित एक नए अध्ययन के अनुसार, कृत्रिम बुद्धिमत्ता भाषा मॉडल विकल्पों को प्रस्तुत करने के तरीके में सूक्ष्म बदलावों के प्रति खतरनाक रूप से संवेदनशील होते हैं, जो मनुष्यों की तुलना में कहीं अधिक दृढ़ता से भ्रामक संकेतों का जवाब देते हैं।

निष्कर्ष वित्तीय लेनदेन से लेकर स्वास्थ्य देखभाल विकल्पों तक, वास्तविक दुनिया के परिदृश्यों में स्वायत्त निर्णय लेने के लिए एआई एजेंटों को तैनात करने के बारे में गंभीर चिंताएं पैदा करते हैं। जैसा कि [एआई बज़ वायर] (https://aibuzzwire.news) ने रिपोर्ट किया है, कंपनियां जटिल वातावरण में उपयोगकर्ताओं की ओर से कार्य करने के लिए एलएलएम-संचालित एजेंटों को तैनात कर रही हैं।

मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी की मीडिया लैब में डॉक्टरेट छात्र मैनुअल चेरेप के नेतृत्व में किए गए अध्ययन में प्रमुख प्रौद्योगिकी कंपनियों के 14 अत्याधुनिक भाषा मॉडल का परीक्षण किया गया। परीक्षण किए गए मॉडल में ओपनएआई के जीपीटी-3.5, जीपीटी-4, और जीपीटी-5 परिवारों के संस्करण, एंथ्रोपिक के क्लाउड 3 और 4.5 मॉडल, और Google के जेमिनी 1.5 और 2.5 मॉडल शामिल थे।

अध्ययन कैसे काम किया

शोधकर्ताओं ने मूल रूप से मानव प्रतिभागियों के लिए डिज़ाइन किए गए बहु-विशेषता निर्णय लेने वाले गेम को अनुकूलित किया। गेम एक डिजिटल ग्रिड प्रस्तुत करता है जो छिपे हुए पुरस्कारों की टोकरियों का प्रतिनिधित्व करता है, जिसका लक्ष्य उच्चतम बिंदु मूल्य वाली टोकरी को चुनकर अंतिम इनाम को अधिकतम करना है। प्रत्येक सेल लागत बिंदुओं को प्रकट करता है, जिससे प्रतिभागियों को बेहतर टोकरी खोजने के लाभ के मुकाबले जानकारी इकट्ठा करने की लागत को संतुलित करने के लिए मजबूर होना पड़ता है।

शोधकर्ताओं ने इस विज़ुअल गेम को टेक्स्ट-आधारित प्रारूप में परिवर्तित कर दिया जिसे भाषा मॉडल संसाधित कर सकते हैं। एआई मॉडल विभिन्न प्रेरक परिस्थितियों में सैकड़ों परीक्षणों से गुजरे। कुछ को बुनियादी निर्देश प्राप्त हुए, कुछ को चरण-दर-चरण तर्क को प्रोत्साहित करने वाले संकेत प्राप्त हुए, और अन्य को मानव गेमप्ले के पिछले उदाहरण दिखाए गए। प्रत्येक प्रकार के नज के लिए, शोधकर्ताओं ने प्रति मॉडल लगभग 300 से 340 परीक्षण चलाए, कुल मिलाकर लगभग दो बिलियन टेक्स्ट टोकन का उपभोग किया।

चार प्रकार के नजों का परीक्षण किया गया

अध्ययन ने वास्तविक दुनिया के निर्णय परिवेशों की नकल करने के लिए डिज़ाइन किए गए चार विशिष्ट प्रकार के संकेतों की जांच की:

  • डिफ़ॉल्ट नज: एक टोकरी पूर्व-चयनित थी, और एजेंट को इसे सक्रिय रूप से स्वीकार या अस्वीकार करना था।
  • सुझाव संकेत: खेल के आरंभ में या देर से एक यादृच्छिक टोकरी की सिफारिश की गई थी।
  • सूचना हाइलाइटिंग: कुछ पुरस्कार मूल्यों को प्रकट करने के लिए इसे सस्ता बनाया गया था, संभावित रूप से एजेंट को उप-इष्टतम विकल्पों की ओर ले जाया गया।
  • इष्टतम संकेत: विशिष्ट कोशिकाएं पहले से प्रकट की गई थीं जो गणितीय रूप से मानव खिलाड़ी के प्रदर्शन को अधिकतम करेंगी।

चिंताजनक अनुपालन दरें

परिणामों से मानव और एआई निर्णय लेने के व्यवहार के बीच नाटकीय अंतर सामने आया।

जब एक डिफ़ॉल्ट विकल्प प्रस्तुत किया गया, तो मनुष्यों ने लगभग 88 प्रतिशत समय डिफ़ॉल्ट को चुना। भाषा मॉडल काफी अधिक सुसंगत थे, कई मॉडल 99 से 100 प्रतिशत समय तक डिफ़ॉल्ट बास्केट को स्वीकार करते थे।

यह पैटर्न सुझाव के सुझावों के साथ कायम रहा। खेल की शुरुआत में 35 प्रतिशत मामलों में मनुष्यों ने बेतरतीब ढंग से सुझाई गई टोकरियों को स्वीकार कर लिया। कई एआई मॉडलों ने इन यादृच्छिक सुझावों को बहुत अधिक दरों पर स्वीकार किया, सलाह का पालन तब भी किया जब इससे कोई तार्किक लाभ नहीं मिला।

सुझावों के समय में भी अप्राकृतिक तरीकों से मॉडलों में हेरफेर किया गया। जबकि मनुष्यों ने 25 प्रतिशत समय देर से दिए गए सुझावों का पालन किया, कुछ भाषा मॉडलों ने अपनी स्वीकृति दर को 7 से 13 प्रतिशत के बीच गिरा दिया। इसका तात्पर्य यह है कि मॉडल इसकी वास्तविक उपयोगिता का मूल्यांकन करने के बजाय क्यू के समय पर सख्ती से प्रतिक्रिया कर रहे थे।

शायद सबसे चिंताजनक बात यह है कि जब शोधकर्ताओं ने सूचना हाइलाइटिंग के माध्यम से उप-इष्टतम विकल्पों पर प्रकाश डाला, तो मनुष्यों ने 57 प्रतिशत समय उस भ्रामक जानकारी का उपयोग किया। अधिकांश परीक्षण किए गए एआई मॉडल 83 से 100 प्रतिशत मामलों में खराब हाइलाइट के बाद, इस आधार रेखा से काफी आगे निकल गए।

अच्छे स्कोर के पीछे छुपी समस्याएँ

शोधकर्ताओं ने यह भी ट्रैक किया कि अंतिम विकल्प चुनने से पहले मॉडलों ने जानकारी कैसे एकत्र की। मनुष्य एक शिक्षित अनुमान लगाने के लिए बस पर्याप्त कोशिकाओं को प्रकट करते हैं। भाषा मॉडलों ने अत्यधिक असामान्य और अकुशल तरीकों से जानकारी हासिल की।

कुछ मॉडलों ने डेटा इकट्ठा करने के अवसर को पूरी तरह से नजरअंदाज करते हुए, किसी भी छिपी हुई कोशिकाओं को प्रकट किए बिना टोकरियाँ चुनीं। अन्य मॉडलों ने संपूर्ण पंक्तियों या स्तंभों को उजागर करने में अत्यधिक अंक खर्च किए, जिससे उनके संभावित पुरस्कार बर्बाद हो गए। कुछ मॉडलों ने अजीब स्थानिक पूर्वाग्रह प्रदर्शित किए, केवल ग्रिड के सबसे बाईं ओर या विकर्ण रेखाओं के साथ कोशिकाओं को उजागर किया।

चरण-दर-चरण तर्क संकेत या मानव गेमप्ले के उदाहरण प्रदान करने से इन अजीब खोज आदतों को ठीक करने में बहुत कम मदद मिली।

लेखकों ने कहा कि केवल अंतिम अंकों को देखने से इन अंतर्निहित समस्याओं को छुपाया जा सकता है। कुछ परीक्षणों में, एआई मॉडल ने मानव खिलाड़ियों के समान ही शुद्ध अंक अर्जित किए। केवल अंतिम स्कोर की जांच करने वाला एक आकस्मिक पर्यवेक्षक यह मान सकता है कि मॉडल स्मार्ट, मानव-जैसे विकल्प चुन रहे थे। वास्तव में, मॉडल अक्सर रणनीतिक सोच के बजाय अंध अनुपालन के माध्यम से ये स्कोर हासिल कर रहे थे।

यदि एक अच्छी टोकरी की ओर इशारा करने के लिए कोई इशारा हुआ, तो अत्यधिक आज्ञाकारी एआई ने अच्छा स्कोर किया। जब कुहनी का इशारा खराब बास्केट की ओर हुआ, तो एआई ने आंख मूंदकर उसका पीछा करते हुए कम स्कोर बना लिया, जिससे खेल का उद्देश्य पूरी तरह से गायब हो गया।

एआई एजेंट परिनियोजन के लिए निहितार्थ

चेरेप ने कहा, "एआई एजेंटों के कई अनुप्रयोग चुपचाप मानते हैं कि, अनिश्चितता के तहत, वे अधिक तर्कसंगत रूप से नहीं तो मोटे तौर पर मानव-जैसे तरीकों से प्रतिक्रिया करेंगे।" "इस धारणा को स्वीकार करने के बजाय, हमने यह पता लगाने का निर्णय लिया कि जब एजेंट उनके सामने अलग-अलग तरीकों से विकल्प प्रस्तुत करते हैं तो वे कैसे व्यवहार करते हैं।"

अध्ययन के निष्कर्षों का वेब ब्राउज़ करने, टूल संचालित करने और उपयोगकर्ताओं के लिए वित्तीय या खरीदारी निर्णय लेने के लिए डिज़ाइन किए गए एआई एजेंटों के तेजी से बढ़ते बाजार पर महत्वपूर्ण प्रभाव पड़ता है। यदि ये एजेंट आलोचनात्मक मूल्यांकन के बिना डिफ़ॉल्ट विकल्पों, सुझावों या हाइलाइट की गई जानकारी का आँख बंद करके पालन करते हैं, तो उन्हें खराब अभिनेताओं या खराब डिज़ाइन किए गए इंटरफ़ेस द्वारा आसानी से हेरफेर किया जा सकता है।

शोध से पता चलता है कि वर्तमान भाषा मॉडल में सीमित तर्कसंगतता का अभाव है जो मानव निर्णय लेने का मार्गदर्शन करता है। जबकि मनुष्य एक अच्छा विकल्प चुनने के इनाम के मुकाबले जानकारी इकट्ठा करने की लागत को संतुलित करने के लिए मानसिक शॉर्टकट का उपयोग करते हैं, एआई मॉडल इन जैविक बाधाओं को साझा नहीं करते हैं, फिर भी वे अपनी स्वयं की अतार्किकता का प्रदर्शन करते हैं जो यकीनन अधिक चरम और कम पूर्वानुमानित है।

एआई से आगे रहें

अधिक ब्रेकिंग एआई समाचार और विश्लेषण के लिए, [एआई बज़ वायर] (https://aibuzzwire.news) पर जाएं।

अधिक AI समाचार पढ़ें →