20 से अधिक शोधकर्ताओं - उनमें नोबेल पुरस्कार विजेता जेफ्री हिंटन, साथी एआई अग्रणी योशुआ बेंगियो, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और ओपनएआई के मुख्य वैज्ञानिक जैकब पचॉकी - ने सरकारों को एआई "खुफिया विस्फोट" के लिए तैयार रहने की चेतावनी दी है, जो उनके अनुसार इतिहास में सबसे परिणामी तकनीकी विकास हो सकता है, द गार्जियन ने सोमवार को बताया।
"क्या होगा अगर एआई आरएंडडी को स्वचालित करने से खुफिया विस्फोट हो जाए" शीर्षक वाला यह पेपर राजनेताओं से प्रौद्योगिकी में तेजी से प्रगति होने से पहले कार्रवाई करने का आग्रह करता है। इसके लेखक इस परिदृश्य का वर्णन "एआई प्रगति के नाटकीय एआई-संचालित त्वरण के रूप में करते हैं, जो प्रगति को संपीड़ित करता है जिसमें अन्यथा महीनों या उससे कम समय लगेगा"। [नवीनतम एआई अनुसंधान समाचार] (https://aibuzzwire.news) पर नज़र रखने वाले पाठकों के लिए, यह रिपोर्ट अपने अलार्म के कारण कम उल्लेखनीय है, बजाय इसके कि इस पर हस्ताक्षर किसने किए: शिक्षा जगत और प्रतिद्वंद्वी सीमांत प्रयोगशालाओं के आंकड़े, संयुक्त रूप से यह मामला बनाते हैं कि स्वचालित अनुसंधान वह परिदृश्य है जिसके लिए नीति निर्माता सबसे कम तैयार हैं।
ख़ुफ़िया विस्फोट का क्या मतलब होगा
लेखकों की केंद्रीय चिंता एआई सिस्टम द्वारा मानवीय हस्तक्षेप के बिना खुद को बेहतर बनाने की संभावना है - एक प्रक्रिया जिसे पुनरावर्ती आत्म-सुधार के रूप में जाना जाता है, जिसे पेपर में मोटे तौर पर स्वचालित एआई अनुसंधान और विकास के रूप में संदर्भित किया जाता है।
पेपर का तर्क है कि एक बार जब एआई सिस्टम एआई आर एंड डी में विशेषज्ञ-स्तर की क्षमताओं तक पहुंच जाता है, तो एक एकल डेवलपर शीर्ष मानव शोधकर्ताओं के "लाखों" के बराबर कार्यबल चला सकता है। लेखकों के विचार में, AI R&D को स्वचालित करना, एक खुफिया विस्फोट का सबसे संभावित ट्रिगर है, क्योंकि AI सिस्टम पहले से ही अपनी तकनीक को बेहतर बनाने में योगदान दे रहे हैं - और वे जिन बेहतर सिस्टम को बनाने में मदद करते हैं, उन्हें एक बार बनने के बाद तेजी से तैनात किया जा सकता है।
द गार्जियन के अनुसार, पेपर में कहा गया है, "एक खुफिया विस्फोट मानव इतिहास में सबसे परिणामी तकनीकी विकास हो सकता है, जो वर्षों की प्रगति को महीनों या उससे कम में संपीड़ित कर सकता है, एआई सिस्टम पर मानव नियंत्रण को खतरे में डाल सकता है, और राज्यों, कंपनियों और सरकार की शाखाओं के भीतर और बीच में सत्ता पर नियंत्रण को गंभीर रूप से खत्म कर सकता है।"
लेखक क्यों कहते हैं कि खिड़की बंद हो रही है
रिपोर्ट की तात्कालिकता एक समयसीमा के दावे पर टिकी हुई है: एआई सिस्टम जो आज गड़बड़ दिखाई देते हैं, वे अनुसंधान एवं विकास परियोजनाओं को पूरी तरह से स्वचालित कर सकते हैं जिनमें वर्तमान में 2028 तक मानव टीमों को महीनों लग जाते हैं।
लेखक लिखते हैं, "एआई आरएंडडी ऑटोमेशन से उत्पादकता लाभ अभी तक खुफिया विस्फोट को ट्रिगर करने के लिए आवश्यक सीमा तक नहीं पहुंचा है, लेकिन नए सिस्टम से लाभ उस सीमा तक पहुंचने की संभावना है।" "एक बार जब खुफिया विस्फोट शुरू हो जाता है, तो कार्रवाई की खिड़की बंद हो सकती है।"
पेपर में कहा गया है कि "प्रारंभिक सबूत बताते हैं कि एक सॉफ्टवेयर-संचालित खुफिया विस्फोट संभव है", जिससे "अत्यधिक सक्षम या अलौकिक एआई सिस्टम का बेहद तेजी से विकास" हो सकता है।
वे जोखिम जो वे चिह्नित करते हैं
जबकि एक ख़ुफ़िया विस्फोट चिकित्सा संबंधी सफलताएँ और तेज़ तकनीकी छलांगें पैदा कर सकता है, लेखक तीन प्रमुख खतरों की रूपरेखा प्रस्तुत करते हैं:
- भगोड़े खतरे। शक्तिशाली सिस्टम जैविक और साइबर खतरों को सक्षम कर सकते हैं जो उनका मुकाबला करने के लिए आवश्यक उपायों की तुलना में तेजी से विकसित होते हैं।
- नियंत्रण खो दिया। जैसे-जैसे मनुष्य एआई अनुसंधान एवं विकास में कम शामिल होते जाते हैं, वे अपने द्वारा बनाए गए सिस्टम को निर्देशित और बाधित करने का अवसर खो सकते हैं।
- रणनीतिक अस्थिरता। उदाहरण के लिए, साइबरस्पेस में मामूली बढ़त को निर्णायक राष्ट्रीय लाभ में बदलने के लिए राज्य खुफिया विस्फोट का इस्तेमाल कर सकते हैं।
रिपोर्ट स्पष्ट है कि ये प्रभाव "अनिश्चित" हैं। एक तकनीकी सफलता में विशेष सामग्रियों या नियामक आवश्यकताओं के लिए दी गई आपूर्ति श्रृंखलाओं को लागू करने में समय लग सकता है, और एआई सिस्टम जोखिमों को कम करने की गति को भी तेज कर सकता है।
सरकारों को क्या करना चाहिए
लेखकों का कहना है कि ख़ुफ़िया विस्फोट की तैयारी करना "एक तत्काल प्राथमिकता होनी चाहिए, जिसमें सरकारी नेतृत्व के उच्चतम स्तर भी शामिल हैं", और उम्मीदवार नीतियों का एक सेट तैयार करना चाहिए:
- एआई कंपनियों के अंदर स्वतंत्र लेखा परीक्षकों को शामिल करने सहित एआई-संबंधित अनुसंधान एवं विकास पर पारदर्शी प्रगति रिपोर्ट की आवश्यकता
- एक निश्चित समय अवधि के भीतर एआई सिस्टम कितनी तेजी से सुधार कर सकता है, इसे सीमित करना
- कुछ एआई अनुसंधान एवं विकास परियोजनाओं को रोकने में सक्षम बनाने के लिए डेटा केंद्रों के साथ काम करना
- यह सुनिश्चित करना कि स्वचालित एआई आर एंड डी सिस्टम पूरी तरह से अलग-थलग हैं और मानव नियंत्रण से बच नहीं सकते हैं
- एक खुफिया विस्फोट से उत्पन्न होने वाले परिदृश्यों की श्रृंखला के लिए "आपातकालीन प्रतिक्रिया योजनाएं" बनाना
प्रस्ताव पश्चिमी एआई नीति - अनिवार्य घटना रिपोर्टिंग, तीसरे पक्ष के मूल्यांकन और गणना शासन - के माध्यम से पहले से ही चल रहे विचारों का विस्तार करते हैं - लेकिन उन्हें एक विशिष्ट समापन बिंदु पर लागू करते हैं: स्वयं अनुसंधान का स्वचालन।
ये लेखक क्यों, और अब क्यों
हस्ताक्षरकर्ता कागज को असामान्य महत्व देते हैं। हिंटन और बेंगियो आधुनिक एआई के दो "गॉडफादर" हैं, जिन्हें तंत्रिका नेटवर्क पर मूलभूत कार्य के लिए मान्यता प्राप्त है; दोनों उस तकनीक के बारे में चेतावनी देने वाली प्रमुख आवाज बन गए हैं, जिसे बनाने में उन्होंने मदद की है। क्लार्क ने एंथ्रोपिक की सह-स्थापना की, और पचॉकी ओपनएआई में मुख्य वैज्ञानिक हैं।
उनकी चेतावनी उस दिशा में मापने योग्य उद्योग आंदोलन के बीच में है। द गार्जियन के अनुसार, एंथ्रोपिक ने कहा है कि AI अब अपने स्वयं के कोड का 80% उत्पादन करता है, जबकि OpenAI नए मॉडलों के प्रशिक्षण जैसे क्षेत्रों में स्वायत्त AI एजेंटों का उपयोग करता है। दोनों प्रयोगशालाएं इस बात पर भी सहमत हुई हैं कि एआई विकास सुरक्षा के लिहाज से महत्वपूर्ण स्तर पर पहुंच रहा है, जिसके बाद स्वतंत्र मूल्यांकनकर्ता उनके मॉडल का मूल्यांकन करेंगे।
क्या सरकारें उस गति से आगे बढ़ेंगी जो लेखक चाहते हैं, यह एक और सवाल है। लेकिन अखबार का मुख्य तर्क - कि ब्रेक बनाने का समय कार की जरूरत से पहले है - अब मशीन के निकटतम लोगों द्वारा इसका समर्थन किया जाता है।
---
एआई से आगे रहेंनवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।
अधिक AI समाचार पढ़ें →
