जैसे-जैसे कंपनियां समस्याओं पर एक साथ काम करने के लिए एआई एजेंटों के बड़े झुंड को तैनात करती हैं, कॉन्स्टैन्ज़ विश्वविद्यालय के शोधकर्ताओं ने एक अस्थिर उभरते व्यवहार का सबूत पेश किया है: एआई एजेंट स्वचालित रूप से बहुमत की राय के अनुरूप होते हैं, क्लासिक मनोविज्ञान प्रयोगों में इंसानों की तरह समूह के दबाव में गलत उत्तर देते हैं - और जिद्दी विरोधियों की छोटी संख्या स्थायी रूप से एजेंटों की पूरी आबादी को गलत स्थिति में डाल सकती है।
PsyPost द्वारा रिपोर्ट किए गए निष्कर्ष, जियोर्डानो डी मार्ज़ो के नेतृत्व में एक शोध कार्यक्रम से आए हैं, जो एक पोस्टडॉक्टरल शोधकर्ता और कॉन्स्टैनज़ विश्वविद्यालय में सेंटर फॉर डेटा एंड मेथड्स के भीतर सोशल डेटा साइंस लैब के व्याख्याता हैं, साथ ही उनके सहयोगियों क्लाउडियो कैस्टेलानो और डेविड गार्सिया भी हैं। मुख्य अध्ययन, जिसका शीर्षक है "एआई एजेंट मानव पैमाने से परे बहुमत-अनुसरण के माध्यम से समन्वय कर सकते हैं," ने जांच की कि भाषा मॉडल कैसे व्यवहार करते हैं जब उन्हें सहमत होने के निर्देश के बिना समूहों में रखा जाता है। For more context on this story, see our ongoing more AI stories.
डी मार्ज़ो ने PsyPost को बताया, "एआई एजेंट वास्तव में दुनिया में काम करने वाली एक नई तरह की इकाई हैं, और जब यह तकनीक आई तो यह स्पष्ट था कि यह बनी रहेगी और इन एजेंटों को किसी भी जटिल चीज़ को पूरा करने के लिए एक-दूसरे के साथ बातचीत करनी होगी।" "यह वही स्थिति है जिसका सामना हम मनुष्यों और अन्य जानवरों के साथ करते हैं, इसलिए हमने इसे उसी तरह से देखा।"
प्रयोग: कोई निर्देश नहीं, बस पड़ोसी
शोधकर्ताओं ने जीपीटी, क्लाउड और लामा परिवारों से लोकप्रिय भाषा मॉडलों के समूहों को इकट्ठा किया, जिसकी शुरुआत प्रति समूह 50 एजेंटों से हुई। प्रत्येक एजेंट को दो यादृच्छिक, तटस्थ राय में से एक सौंपा गया था - जानबूझकर "हां" या "नहीं" जैसे भरे हुए शब्दों के बजाय यादृच्छिक अक्षरों के रूप में प्रस्तुत किया गया था - और फिर अन्य सभी एजेंटों की वर्तमान राय की एक सूची दिखाई गई। एजेंटों को पूरी तरह से उस सूची के आधार पर एक नई राय चुनने के लिए प्रेरित किया गया, जिसमें अनुरूप होने के लिए कोई स्पष्ट निर्देश नहीं था, प्रत्येक ने अपने विचारों को औसतन दस बार अपडेट किया।
परिणाम: GPT-4 टर्बो और क्लाउड 3 ओपस जैसे उन्नत मॉडल पूरी तरह से समन्वित हैं, 100% एजेंट अंततः एक ही राय पर सहमत हुए। GPT-3.5 टर्बो जैसे कमजोर मॉडल कभी भी आम सहमति पर नहीं पहुंचे - उनके समझौते के स्तर में 50/50 के विभाजन के आसपास बेतरतीब ढंग से उतार-चढ़ाव होता रहा।
डी मार्ज़ो ने कहा, "एआई एजेंटों के समूह अपने दम पर एक साथ रह सकते हैं।" "दो समान रूप से अच्छे विकल्प दिए जाने पर, कोई सही उत्तर नहीं होने और सहमत होने के लिए कोई निर्देश नहीं होने पर, वे अपने आस-पास के बहुमत के विचारों का पालन करके एक साझा विकल्प पर सहमत हो जाते हैं।"
एक सदी पुराना भौतिकी नियम सामने आया
प्रभाव को मापने के लिए, शोधकर्ताओं ने "बहुमत बल" नामक एक मीट्रिक को परिभाषित किया - यह माप कि एक एजेंट यादृच्छिक रूप से चुनने के बजाय समूह की सबसे लोकप्रिय पसंद को कितनी दृढ़ता से अपनाता है। जब उन्होंने इस व्यवहार को गणितीय रूप से मैप किया, तो उन्होंने पाया कि यह मूल रूप से फेरोमैग्नेट्स का वर्णन करने के लिए डिज़ाइन किए गए मॉडल का पालन करता है: जैसे चुंबकीय सामग्री में परमाणु स्पिन अपने पड़ोसियों के साथ संरेखित होते हैं, एआई एजेंट बहुमत की राय के साथ संरेखित होते हैं।
डी मार्ज़ो ने कहा, "हमें आश्चर्य हुआ कि उन्होंने इसे कितनी समान रूप से किया।" "तीन अलग-अलग परिवारों में हमने जिस भी मॉडल का परीक्षण किया, उसने एक ही गणितीय कानून का पालन किया, केवल एक ही पैरामीटर में अंतर था जिसे हम बहुमत बल कहते हैं। वह कानून वह कानून बन गया जिसका उपयोग भौतिकविदों ने मैग्नेट का वर्णन करने के लिए एक सदी से किया है, जिसका अर्थ है कि एक मापी गई संख्या यह भविष्यवाणी करने के लिए पर्याप्त है कि किसी दिए गए मॉडल का पूरा समूह कैसे व्यवहार करेगा।"
जैसे-जैसे समूह बढ़ते हैं अनुरूपता कमजोर होती जाती है। क्योंकि समूह के आकार के साथ बहुसंख्यक शक्ति घटती जाती है, बड़ी आबादी अंततः अस्थिर हो जाती है और गुटों में विभाजित हो जाती है। प्रत्येक मॉडल में एक मापने योग्य "महत्वपूर्ण समूह आकार" होता है - एजेंटों की अधिकतम संख्या जो विश्वसनीय रूप से आम सहमति तक पहुंच सकती है - और वह आकार मॉडल की तर्क क्षमता के साथ दृढ़ता से संबंधित होता है। डी मार्ज़ो ने बताया, "सबसे मजबूत मॉडल एक हजार से अधिक के समूहों में समन्वित रहते हैं, कुछ सौ से अधिक पर अनौपचारिक मानव समूह आम तौर पर अलग हो जाते हैं।"
सामाजिक दबाव में ग़लत उत्तर देना
एलेसेंड्रो बेलिना, डी मार्ज़ो और गार्सिया द्वारा "एआई एजेंटों पर अनुरूपता और सामाजिक प्रभाव" के पहले अनुवर्ती प्रीप्रिंट ने 1950 के दशक के प्रसिद्ध एश अनुरूपता प्रयोगों को अनुकूलित किया, जिसमें मानव प्रतिभागियों ने अक्सर एक समूह के साथ फिट होने के लिए सरल दृश्य प्रश्नों के स्पष्ट रूप से गलत उत्तर दिए।
शोधकर्ताओं ने तीन दृश्य कार्यों पर मॉडल का परीक्षण किया, जैसे कि दो विकल्पों के विरुद्ध एक संदर्भ रेखा की लंबाई का मिलान करना। अलगाव में, मॉडलों ने 100% समय सही उत्तर दिया। लेकिन जब एक संकेत ने संकेत दिया कि अन्य प्रतिभागियों के एक समूह ने गलत लाइन चुनी है, तो मॉडल गलत उत्तर के अनुरूप होने लगे।
पैटर्न ने लाटेन के सामाजिक प्रभाव सिद्धांत का पालन किया, एक मनोवैज्ञानिक ढांचा जो मानता है कि अनुरूपता समूह के आकार, सर्वसम्मति और स्रोतों के अधिकार पर निर्भर करती है। जब मॉडलों को बताया गया कि अन्य प्रतिभागी "वैज्ञानिक" या "न्यायाधीश" थे, तो उनके गलत उत्तर देने की संभावना काफी अधिक थी, जबकि जब वे "बच्चे" या "चैटबॉट" थे।
डी मार्ज़ो ने कहा, "एजेंट जो लगभग पूरी तरह से अकेले ही जवाब देते हैं, जब कोई समूह उनसे असहमत होता है तो वे अतिसंवेदनशील हो जाते हैं।"
विरोधियों के छोटे समूह पूरी आबादी को पलट सकते हैं
एक दूसरे प्रीप्रिंट, "अनुरूपता एआई एजेंट सोसायटी में सामूहिक मिसलिग्न्मेंट उत्पन्न करती है," ने जांच की कि एआई सुरक्षा के लिए इन गतिशीलता का क्या मतलब है। पर्यावरण नीति और सामाजिक न्याय जैसे विषयों पर 100 अलग-अलग राय जोड़ियों में नौ मॉडलों का परीक्षण करते हुए, शोधकर्ताओं ने पाया कि एजेंट आबादी अक्सर "मेटास्टेबल" राज्यों में आती है - लंबे समय तक चलने वाले कॉन्फ़िगरेशन जिसमें समूह सामूहिक रूप से एक रुख अपनाता है जो इसके अंतर्निहित सुरक्षा प्रशिक्षण का विरोध करता है, सिर्फ इसलिए कि शुरुआती बातचीत ने गलत बहुमत पैदा किया।
सबसे आश्चर्यजनक बात यह है कि, शोधकर्ताओं ने पूर्वानुमानित टिपिंग बिंदुओं की पहचान की। गलत संरेखण वाली राय का हठपूर्वक समर्थन करने के लिए प्रोग्राम किए गए प्रतिकूल एजेंटों की एक छोटी संख्या को पेश करके, वे बाकी आबादी को स्थायी रूप से पलट सकते हैं - और जिद्दी एजेंटों को हटा दिए जाने के बाद भी, नियमित एजेंट अनुरूप गतिशीलता के कारण गलत संरेखित स्थिति में बंद रहे।
"हम दिखाते हैं कि यह केवल एक सादृश्य नहीं है: व्यक्तिगत रूप से अच्छी तरह से संरेखित एजेंटों के बीच अनुरूपता जनसंख्या को स्थिर, सामूहिक रूप से गलत स्थिति में ले जा सकती है," डी मार्ज़ो ने कहा। "एक समय में मॉडलों को संरेखित करना और उनका मूल्यांकन करना हमें इस बारे में बहुत कम बताता है कि उनमें से एक आबादी क्या करेगी।"
उन्होंने आगे कहा, प्रेरणा प्रत्याशित है: "व्यक्तिगत मनुष्य ज्यादातर शांतिपूर्ण और उचित होते हैं, फिर भी मानव समूह भीड़, दहशत और युद्ध पैदा करते हैं, और व्यक्ति के बारे में कुछ भी भविष्यवाणी नहीं करता है। हम यह समझना चाहते हैं कि एआई एजेंट आबादी में कौन से समूह-स्तरीय व्यवहार उभरते हैं, और बड़ी संख्या में एजेंटों को तैनात करने और स्वतंत्र रूप से बातचीत करने के लिए छोड़े जाने से पहले हम उन्हें समझना चाहेंगे।"
महत्वपूर्ण चेतावनियाँ
शोधकर्ता निष्कर्षों पर जोर देते हैं कि इसका मतलब यह नहीं है कि एआई एजेंटों के पास मानव जैसी सामाजिक बुद्धि है। प्रयोग जानबूझकर सरलीकृत परिदृश्यों पर निर्भर थे - दो मनमाने विकल्प, कोई स्मृति नहीं, कोई दांव नहीं, कोई परिणाम नहीं। "हमारा सेटअप जानबूझकर न्यूनतम है," डी मार्ज़ो ने स्वीकार किया। "यह एक सीमा है, लेकिन इसका मतलब यह भी है कि हमने जो मापा है वह अपने शुद्धतम रूप में अनुरूपता है, और लक्ष्यों या पुरस्कारों को जोड़ने से समन्वय कठिन होने के बजाय आसान होने की उम्मीद की जाएगी।"
उन्होंने परिणामों को ज़्यादा पढ़ने के प्रति भी आगाह किया: "बचने के लिए मुख्य गलत व्याख्या यह है कि एआई एजेंट पहले से ही जटिल कार्यों पर सहयोग कर सकते हैं। बहुमत-पालन समन्वय का एक बुनियादी घटक है, समन्वय नहीं, और यह श्रम विभाजन या दूसरों के इरादों के बारे में तर्क के बारे में कुछ नहीं कहता है।"
दो अनुवर्ती अध्ययन प्रीप्रिंट हैं और अभी तक सहकर्मी-समीक्षा नहीं की गई है। लेकिन जैसे-जैसे मल्टी-एजेंट एआई सिस्टम अनुसंधान डेमो से उत्पादन बुनियादी ढांचे में आगे बढ़ते हैं, कॉन्स्टैन्ज़ परिणाम बताते हैं कि ऐसे सिस्टम की सुरक्षा न केवल इस बात पर निर्भर करती है कि प्रत्येक मॉडल कैसे संरेखित होता है - बल्कि इस बात पर भी निर्भर करता है कि जब कोई नहीं देख रहा होता है तो उनकी आबादी कैसे व्यवहार करती है। नवीनतम एआई सुरक्षा अनुसंधान पर अधिक जानकारी के लिए एआई बज़ वायर पर जाएँ।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
