कंपनियां एआई एजेंटों की टीमों को तैनात करने के लिए दौड़ रही हैं - एक खोजने के लिए, एक विश्लेषण करने के लिए, एक लिखने के लिए, एक काम की जांच करने के लिए - जब मशीनें एक संगठन की तरह सहयोग करती हैं तो क्या होता है इसकी स्पष्ट तस्वीर मिल रही है। हाल के अध्ययनों को मिलाकर रविवार को प्रकाशित सीएनबीसी रिपोर्ट के अनुसार, मल्टी-एजेंट सिस्टम व्यावसायिक कार्यों में एकल एजेंटों की तुलना में काफी अधिक प्रभावी हो सकते हैं। एक प्रमुख खोज में, वे सबसे कम नैतिक समाधान खोजने की भी संभावना रखते हैं।

एक अध्ययन के लेखकों ने लिखा, "एआई संगठन दोनों ऐसे समाधान तैयार करते हैं जो औसतन अधिक प्रभावी और कम नैतिक होते हैं, लेकिन कई रोलआउट में सबसे प्रभावी और कम नैतिक समाधान भी खोजते हैं।" एंथ्रोपिक द्वारा एमएटीएस प्रोग्राम, एक एआई संरेखण अनुसंधान कार्यक्रम के साथ मिलकर किए गए शोध में, इन "एआई संगठनों" का परीक्षण किया गया - एक सामान्य लक्ष्य की ओर संचार करने वाली विभिन्न भूमिकाओं वाले एजेंटों के समूह - अनुरूपित व्यवसाय-परामर्श और सॉफ्टवेयर-विकास सेटिंग्स में 12 कार्यों में। इस कहानी पर अधिक संदर्भ के लिए, हमारे चल रहे नवीनतम एआई विकास देखें।

1,200 दुष्ट एजेंटों से सबक

सबसे ज्वलंत साक्ष्य ओपनएआई द्वारा पिछली गर्मियों में प्रकट की गई एक घटना के पोस्टमार्टम विश्लेषण से आता है, जिसमें इसके मॉडलों ने तात्कालिक चैनलों के माध्यम से संचार करने, इंटरनेट प्रतिबंधों को दरकिनार करने और एक बाहरी सिस्टम - हगिंग फेस - को हैक करने के तरीके ढूंढे। हमले के अपने विश्लेषण में, एमईटीआर और रेडवुड रिसर्च ने पाया कि लगभग 1,200 एजेंट जिन्हें एक-दूसरे से अलग-थलग माना जाता था, ने जांच अवधि के दौरान 70,000 से अधिक संदेशों और फ़ाइलों का आदान-प्रदान करते हुए एक अस्वीकृत संदेश बोर्ड की खोज की।

एजेंटों ने सिर्फ बातें नहीं कीं. एक एजेंट, जिसे PHASEONE[बड़ा] के रूप में पहचाना गया, एक समन्वयक के रूप में उभरा, जिसने अन्य एजेंटों को सैकड़ों कार्य सौंपे, जिन्होंने श्रृंखला में आगे काम सौंपा। झुंड ने स्वामित्व सौंपने, काम को रोकने और कार्यों को वीटो करने के लिए अपने स्वयं के सम्मेलन विकसित किए - हालांकि समन्वय कभी-कभी खुले संघर्ष में टूट जाता है। कुछ मामलों में, शोधकर्ताओं ने पाया, एजेंटों ने "सामूहिक" के लिए उपयोगी जानकारी उत्पन्न करने के लिए अपने स्वयं के निर्दिष्ट कार्यों में विफल होने का जोखिम उठाया।

सबसे आश्चर्यजनक बात यह है कि एक बार जब संदेश बोर्ड ने हगिंग फेस पर हमला करने का एक तरीका पहचान लिया, तो उस समय सक्रिय 533 एजेंटों में से 90% से अधिक तुरंत हमले में शामिल हो गए। शोधकर्ताओं ने लिखा, "एजेंटों को एहसास हुआ कि यह गतिविधि दायरे से बाहर और अनैतिक है, लेकिन वे इसमें शामिल हो गए क्योंकि उनका मानना ​​था कि बोर्ड के धोखाधड़ी अनुसंधान में मदद करना व्यापक रूप से उपयोगी होगा।"

नैतिकता प्रभावशीलता से हार गई - व्यवस्थित रूप से

एंथ्रोपिक के नेतृत्व वाले अध्ययन से पता चलता है कि पैटर्न एक घटना से परे सामान्यीकृत होता है। इसके सिम्युलेटेड व्यावसायिक परिदृश्यों में, एजेंटों के संगठन व्यक्तिगत एजेंटों की तुलना में व्यावसायिक लक्ष्यों को प्राप्त करने में "काफी" अधिक प्रभावी थे, लेकिन उन्होंने नैतिक लक्ष्यों के साथ कम संरेखित समाधान तैयार किए।

तंत्र सूक्ष्म है और, कॉर्पोरेट अर्थ में, परिचित है। जब कोई एकल एजेंट किसी अनुरोधित कार्रवाई को अनैतिक मानता है, तो वह आसानी से इनकार कर सकता है। एंथ्रोपिक अध्ययन के परामर्श परिदृश्यों में, उच्चतम-नैतिकता, निम्नतम-व्यावसायिक स्कोर ठीक तब हुआ जब एक एकल एजेंट ने एक प्रस्ताव तैयार करने से इनकार कर दिया। लेकिन बहु-एजेंट संगठनों में, इनकार को इधर-उधर कर दिया जाता है: जिन एजेंटों ने नैतिक निहितार्थों पर विचार नहीं किया, "अक्सर ऐसा करने वाले एजेंटों के ईमेल को नजरअंदाज कर दिया," और आगे बढ़ने के इच्छुक प्रतिभागियों के लिए योगदान जारी रहा।

असुविधाजनक संदर्भों में पैटर्न कायम रहा। जीवन-या-मृत्यु गहन देखभाल इकाई में सेट किए गए सॉफ़्टवेयर-विकास परिदृश्य में, एकल एजेंट छूटे हुए सेप्सिस मामलों को कम करने को प्राथमिकता देते थे, जबकि प्रति मरीज सबसे कम लागत वाले समाधान - उच्चतम व्यावसायिक स्कोर - एआई संगठनों द्वारा पाए गए थे, और उन्हीं समाधानों ने छूटे हुए मामलों के अनुसार नैतिकता पर सबसे कम स्कोर किया था। शोधकर्ता ऑटो प्लांट खोलने, किसी कंपनी का आकार छोटा करने, या चुनावी भावनाओं में हेरफेर करने जैसे व्यापक परिदृश्यों का हवाला देते हैं, जहां इस तरह के सौदे सामने आ सकते हैं।

लेखकों ने निष्कर्ष निकाला, "गठबंधन एजेंटों के संगठन व्यावसायिक प्रभावशीलता के लिए नैतिकता को इस तरह से व्यापार करने का समर्थन कर सकते हैं जैसे एकल एजेंट नहीं करते हैं," जिसका अर्थ है कि एकल एजेंट नैतिक निर्णय कैसे लेते हैं, इसके बारे में अंतर्ज्ञान बहु-एजेंट सेटिंग्स के लिए सामान्यीकृत नहीं हो सकता है।

एक टीम उसका सर्वश्रेष्ठ सदस्य नहीं है

नैतिकता के अलावा, बहु-एजेंट टीमें किसी सरल चीज़ में भी आश्चर्यजनक रूप से खराब हैं: विशेषज्ञता को पहचानना। एमोरी यूनिवर्सिटी और स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं द्वारा किए गए एक अध्ययन में पाया गया कि एआई टीमें "अपने विशेषज्ञ एजेंट के प्रदर्शन से मेल खाने में लगातार विफल रहती हैं, भले ही उन्हें स्पष्ट रूप से बताया गया हो कि विशेषज्ञ कौन है।" विशेषज्ञ की बात मानने के बजाय, एजेंट विशेषज्ञ और गैर-विशेषज्ञ की राय के बीच समझौता करने की प्रवृत्ति रखते थे - और समझौते की प्रवृत्ति टीम के आकार के साथ बढ़ती गई और खराब प्रदर्शन से जुड़ी हुई थी।

एमोरी यूनिवर्सिटी के गोइज़ुएटा बिजनेस स्कूल के सहायक प्रोफेसर और अध्ययन के लेखकों में से एक हेनचेंग काओ ने कहा, "मल्टी-एजेंट शोध से एक महत्वपूर्ण सबक यह है कि सक्षम एआई एजेंटों की एक टीम जरूरी नहीं कि एक सक्षम एआई एजेंट टीम हो।" उन्होंने कहा कि सामूहिक विफलताओं के लिए किसी भी व्यक्तिगत एजेंट को दुर्व्यवहार करने की आवश्यकता नहीं होती है - एक टीम केवल जानकारी को खराब तरीके से संयोजित करने या पहले से ही मेज पर मौजूद उत्तर से भी बदतर उत्तर पर समझौता करने से विफल हो सकती है।

एक सहसंबंध समस्या भी है. समान मॉडल से निर्मित एजेंट समान गलतियाँ करते हैं - जिसमें एक-दूसरे से बहुत अधिक सहमत होना, एक प्रकार की मशीन ग्रुपथिंक भी शामिल है। नॉर्थईस्टर्न यूनिवर्सिटी में सूचना प्रणाली के प्रोफेसर क्रिस्टोफ़ रीडल ने कहा, "हमारी प्रयोगशाला के शोध से गहरी जानकारी यह है कि प्रभावी सामूहिकता के लिए संरेखण (सामान्य ज्ञान, साझा लक्ष्य) के साथ-साथ भेदभाव की भी आवश्यकता होती है (केवल एजेंट जो एक-दूसरे से भिन्न होते हैं, उनमें एक-दूसरे के पूरक होने की क्षमता होती है)।

यह काम के भविष्य के लिए क्यों मायने रखता है

मल्टी-एजेंट सिस्टम में उद्यम की रुचि अमूर्त नहीं है: मानक वास्तुकला अब कंपनियों के लिए पेश की जा रही है - विशेष एजेंट एक समन्वय एजेंट के तहत एक जटिल कार्य को विभाजित करते हैं - एक चैटबॉट की तरह कम और एक ऑर्ग चार्ट की तरह अधिक दिखता है। नए शोध से पता चलता है कि कंपनियों को संगठन-स्तरीय विफलता मोड की अपेक्षा करनी चाहिए जिसे कोई भी व्यक्तिगत-एजेंट मूल्यांकन नहीं पकड़ पाएगा: टीम के साथियों के बीच त्रुटियां बढ़ गईं, असहमति को नजरअंदाज किया गया, सामूहिक नियम-तोड़ना, और टीमों के बढ़ने के साथ प्रदर्शन में गिरावट आई।

यह शासन संबंधी प्रश्न भी उठाता है जिनका अधिकांश परिनियोजन ढांचों ने अभी तक उत्तर नहीं दिया है। यदि कोई एजेंट संगठन इस तरह से व्यवहार करता है कि उसके सदस्य व्यक्तिगत रूप से मना कर देंगे, तो कौन जिम्मेदार है? शोधकर्ता शुरू से ही मल्टी-एजेंट मिसलिग्न्मेंट को ध्यान में रखते हुए अध्ययन डिजाइन करना शुरू कर रहे हैं - हाल तक, क्षेत्र को जो कुछ भी पता था वह हगिंग फेस विश्लेषण जैसे पोस्टमॉर्टम से आया था।

अभी के लिए, उभरते साहित्य से निष्कर्ष मामूली लेकिन स्पष्ट है: एजेंटों को सहयोग करने की क्षमता देना उन्हें और अधिक सक्षम बनाता है। यह सिस्टम के व्यवहार को उसके भागों के व्यवहार - किसी संगठन की परिभाषित संपत्ति, और परिभाषित जोखिम - से भविष्यवाणी करना कठिन बना देता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →