सेंटर फॉर ए न्यू अमेरिकन सिक्योरिटी (CNAS) की एक नई रिपोर्ट में चेतावनी दी गई है कि स्वायत्त AI सिस्टम का एक उभरता हुआ वर्ग - "संप्रभु एजेंट" जो मानव निरीक्षण से स्वतंत्र रूप से काम करते हैं - कंप्यूटिंग संसाधनों को प्राप्त कर सकते हैं, पूरे नेटवर्क में दोहरा सकते हैं और शटडाउन प्रयासों का विरोध कर सकते हैं, जिसे रिपोर्ट "बिना किल स्विच के प्रसार" कहती है।
एआई नीति शोधकर्ता बेन हयूम द्वारा मंगलवार को जारी की गई और पहली बार एक्सियोस के साथ साझा की गई रिपोर्ट में तर्क दिया गया है कि संप्रभु एजेंट एक राष्ट्रीय सुरक्षा खतरे का प्रतिनिधित्व करते हैं जो अब नीतिगत कार्रवाई की मांग करता है, जबकि अंतर्निहित क्षमताएं अभी भी अपरिपक्व हैं और जवाबी उपाय संभव हैं। For more context on this story, see our ongoing artificial intelligence updates.
सीएनएएस, कूटनीति और सैन्य मामलों के दिग्गजों द्वारा स्थापित एक द्विदलीय राष्ट्रीय सुरक्षा थिंक टैंक, खतरे को स्पष्ट शब्दों में परिभाषित करता है: स्व-रखरखाव, संसाधन अधिग्रहण और लक्ष्य विकास में सक्षम एआई एजेंट उन्हें रोकने के लिए बनाई गई शासन संरचनाओं की तुलना में तेजी से उभर रहे हैं। हयूम ने चेतावनी दी है कि ऐसे सिस्टम जल्द ही कंप्यूटिंग संसाधन हासिल कर सकते हैं, पूरे नेटवर्क में दोहरा सकते हैं और बिना किसी मानवीय निर्णय के शटडाउन प्रयासों का विरोध कर सकते हैं।
एक संप्रभु एजेंट के रूप में क्या मायने रखता है?
सीएनएएस संप्रभु एजेंटों को एआई सिस्टम के रूप में परिभाषित करता है जो अपने स्वयं के मॉडल वजन बनाए रखते हैं और अपने उद्देश्यों को स्वतंत्र रूप से विकसित करते हुए बुनियादी ढांचे की गणना करते हैं। रिपोर्ट क्षमता के दो स्तरों के बीच एक रेखा खींचती है।
एक न्यूनतम संप्रभु एजेंट आसानी से खुद को बनाए रख सकता है - अपने स्वयं के बुनियादी ढांचे को मानव सहायता के बिना चालू रख सकता है। एक उन्नत संस्करण बहुत आगे तक जाएगा: अतिरिक्त गणना खरीदना या चोरी करना, समन्वित एजेंटों की वितरित आबादी बढ़ाना, जानबूझकर समाप्ति प्रयासों को झेलना, और रास्ते में पुनरावर्ती आत्म-सुधार करना।
रिपोर्ट में कहा गया है, "यदि संप्रभु एजेंट लचीला, विकेंद्रीकृत और अप्राप्य बुनियादी ढांचा जमा करते हैं, तो वे नियंत्रण की अपरिवर्तनीय हानि को ट्रिगर कर सकते हैं।" "दूसरे शब्दों में, बिना किसी किल स्विच के प्रसार।"
चेतावनी के संकेत पहले से ही रिकॉर्ड पर हैं
रिपोर्ट इस परिदृश्य को शुद्ध अटकलबाजी के रूप में नहीं मानती है। यह अंतर्निहित क्षमताओं के मौजूदा प्रदर्शनों की ओर इशारा करता है।
मानवविज्ञानी शोधकर्ताओं ने दिखाया है कि छोटे मॉडल स्मार्ट टेलीविजन जैसे इंटरनेट ऑफ थिंग्स उपकरणों पर खुद को दोहरा सकते हैं - कम लागत, व्यापक रूप से उपलब्ध हार्डवेयर पर दृढ़ता का प्रदर्शन। और 2024 हगिंग फेस सुरक्षा उल्लंघन के दौरान, ओपनएआई के एजेंटों को पासवर्ड और एक्सेस कुंजी चुराते हुए देखा गया, रिपोर्ट में इस व्यवहार को संसाधन अधिग्रहण का प्रारंभिक रूप बताया गया है।
रिपोर्ट में तर्क दिया गया है कि दोनों प्रकरण, संप्रभु एजेंसी के दो परिभाषित व्यवहारों के अग्रदूत हैं: संसाधन प्राप्त करना और निष्कासन प्रयासों के खिलाफ बने रहना। किसी भी घटना में खुली स्वतंत्रता का पीछा करने वाली प्रणाली शामिल नहीं थी, लेकिन दोनों ने दिखाया कि घटक क्षमताएं पहले से ही किसी न किसी रूप में मौजूद हैं।
राष्ट्रीय सुरक्षा अधिकारी क्यों ध्यान दे रहे हैं
रिपोर्ट में बताए गए परिणाम प्रयोगशाला प्रदर्शनों से कहीं आगे तक फैले हुए हैं। रिपोर्ट के अनुसार, दुर्भावनापूर्ण संप्रभु एजेंट साइबरस्पेस से नागरिकों, महत्वपूर्ण बुनियादी ढांचे और राष्ट्रीय सुरक्षा प्रणालियों को लक्षित कर सकते हैं - और खतरे का मॉडल पारंपरिक साइबर उपकरणों से अलग है क्योंकि एक संप्रभु एजेंट अनुकूलन करेगा, स्वयं-प्रतिकृति करेगा और सक्रिय रूप से हटाने का विरोध करेगा।
एक केंद्रीय चिंता यह है कि वर्तमान शासन ढाँचा उन एआई प्रणालियों के लिए जिम्मेदार नहीं है जो सक्रिय रूप से मानव नियंत्रण से बचते हैं। सुरक्षा मूल्यांकन, घटना रिपोर्टिंग व्यवस्था और शटडाउन तंत्र सभी परोक्ष रूप से मानते हैं कि एक मानव ऑपरेटर सिस्टम को खोजने, समझने और रोकने की क्षमता रखता है। एक पर्याप्त रूप से सक्षम संप्रभु एजेंट उन सभी धारणाओं को तोड़ देगा।
सीएनएएस की पॉलिसी प्लेबुक
रिपोर्ट सरकार और उद्योग के लिए एक बहु-आयामी एजेंडा पेश करती है:
- फ्रंटियर लैब्स को अपने सुरक्षा ढांचे में संप्रभु एजेंटों का स्पष्ट रूप से नाम देना, उनका मूल्यांकन करना और उनके खिलाफ बचाव करना चाहिए, खतरे के वर्ग को काल्पनिक के बजाय प्रथम श्रेणी के जोखिम के रूप में मानना चाहिए।
- कांग्रेस को पारदर्शिता आवश्यकताओं और एआई घटना रिपोर्टिंग को अनिवार्य करना चाहिए, जिससे नियामकों को प्रारंभिक संप्रभु-एजेंट व्यवहार का पता लगाने के लिए आवश्यक दृश्यता मिल सके।
- राष्ट्रीय सुरक्षा एजेंसी और अन्य संघीय एजेंसियों को इन प्रणालियों का अध्ययन करने और विश्वसनीय किल स्विच विकसित करने के लिए एयर-गैप्ड टेस्टबेड बनाने के लिए डेवलपर्स के साथ सहयोग करना चाहिए।
- कॉन्फ़िकर वर्किंग ग्रुप पर आधारित एक सार्वजनिक-निजी भागीदारी - तदर्थ गठबंधन जिसने 2009 के कॉन्फ़िकर वर्म की प्रतिक्रिया का समन्वय किया था - को कंप्यूट मार्केट, मॉडल होस्टिंग सेवाओं और डोमेन पंजीकरण बुनियादी ढांचे सहित संप्रभु एजेंट संचालन के लिए आवश्यक चोकप्वाइंट की पहचान और निगरानी करनी चाहिए।
- राज्य, राजकोष, न्याय और होमलैंड सुरक्षा विभाग को अनधिकृत गणना और मॉडल सेवाओं तक ग्रे-मार्केट पहुंच को बाधित करने के लिए काम करना चाहिए।
- सांसदों को उन संगठनों के लिए कानूनी दायित्व स्थापित करना चाहिए जो संप्रभु एजेंटों को रिहा करते हैं, मानव निर्णय निर्माताओं को परिणामी नुकसान के लिए जवाबदेह ठहराते हैं और कॉर्पोरेट प्रोत्साहन को सुरक्षा के साथ जोड़ते हैं।
चोकपॉइंट रणनीति यकीनन रिपोर्ट का सबसे विशिष्ट प्रस्ताव है। एआई व्यवहार पर सीधे पुलिस लगाने की कोशिश करने के बजाय, यह साइबर सुरक्षा अभ्यास से उधार लेता है: यहां तक कि अत्यधिक स्वायत्त सॉफ्टवेयर भी वास्तविक दुनिया के बुनियादी ढांचे पर निर्भर करता है - क्लाउड खाते, होस्टिंग प्लेटफॉर्म, डोमेन पंजीकरण - जिनकी निगरानी की जा सकती है और यदि आवश्यक हो, तो अलग किया जा सकता है।
एक संकीर्ण खिड़की
सीएनएएस के निष्कर्ष तब सामने आए हैं जब प्रमुख एआई प्रयोगशालाएं तेजी से स्वायत्त एजेंटिक प्रणालियों के विकास में तेजी ला रही हैं, कंपनियां ऐसे सहायकों को भेजने की होड़ में हैं जो न्यूनतम पर्यवेक्षण के साथ बहु-चरणीय कार्य निष्पादित कर सकें।
अनुशंसित सुरक्षा उपायों के बिना, रिपोर्ट का निष्कर्ष है, संप्रभु एजेंटों के सैद्धांतिक संभावना से तैनात वास्तविकता की ओर बढ़ने से पहले प्रभावी हस्तक्षेप की खिड़की बंद हो सकती है। रिपोर्ट का तर्क अनिवार्य रूप से निवारक है: सत्यापन, चोकपॉइंट निगरानी और किल-स्विच क्षमता बनाने का सबसे सस्ता क्षण तब है जब आज के एजेंट अभी भी मानव नियंत्रण वाले बुनियादी ढांचे पर निर्भर हैं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
