Google DeepMind की AGI सुरक्षा टीम के एक दूसरे शोधकर्ता ने इस्तीफा दे दिया है और सार्वजनिक रूप से चेतावनी दी है कि उन्नत कृत्रिम बुद्धिमत्ता मानव अस्तित्व के लिए खतरा पैदा कर सकती है, जिससे दुनिया की अग्रणी AI प्रयोगशालाओं से सुरक्षा-प्रेरित प्रस्थान की लहर गहरा सकती है।

बिलाल चुगताई, एक शोध इंजीनियर और गणितज्ञ, जिन्होंने जुलाई में Google डीपमाइंड छोड़ दिया था, ने सोमवार को एक निकास पोस्ट प्रकाशित किया जिसमें बताया गया कि क्यों। एएफपी और अन्य आउटलेट्स द्वारा व्यापक रूप से रिपोर्ट की गई टिप्पणियों में चुगताई ने लिखा, "मुझे पूरा विश्वास है कि एआई में हम सभी को मारने की क्षमता है, और इस परिणाम से बचने के लिए हमारे पास समय की कमी हो सकती है।" ब्लूमबर्ग के अनुसार, वह तब से ब्लूडॉट इम्पैक्ट में शामिल हो गया है, जो एक गैर-लाभकारी संस्था है जो विभिन्न क्षेत्रों के लोगों को एआई सुरक्षा पर काम करने के लिए प्रशिक्षित करती है। For more context on this story, see our ongoing artificial intelligence updates.

एक ही टीम से दूसरी बार बाहर निकलना

चुगताई की पोस्ट वायरल होने के कुछ दिन पहले, उनके सहयोगी जोश एंगेल्स ने उसी एजीआई सुरक्षा टीम से इस्तीफा दे दिया था। एंगेल्स, एक एमआईटी स्नातक, ने ओपनएआई और एंथ्रोपिक दोनों से नौकरी की पेशकश को अस्वीकार कर दिया - दो कंपनियां जिनकी वह आलोचना करने के लिए सबसे अधिक तैनात होंगे - और इसके बजाय एमईटीआर में शामिल हो गए, स्वतंत्र गैर-लाभकारी संस्था जो मूल्यांकन करती है कि फ्रंटियर एआई सिस्टम खतरनाक हैं या नहीं।

बिजनेस स्टैंडर्ड के अनुसार, एंगेल्स ने संवाददाताओं से कहा कि उन्हें एक "भयानक संभावना" दिखती है कि एआई सिस्टम अगले पांच वर्षों के भीतर "भारी नुकसान" पहुंचाएगा। एमईटीआर में, उन्होंने कहा कि वह यह पता लगाने की योजना बना रहे हैं कि प्रशिक्षण के दौरान संरेखण विफलताएं कहां से उत्पन्न होती हैं और यह परीक्षण करने के लिए कि सुरक्षा शमन प्रयोगशालाएं दावा करती हैं कि क्या कुछ गलत होने पर वे वास्तव में काम करेंगे। स्वतंत्र परीक्षण के समर्थकों का तर्क है कि एक कंपनी का दावा है कि उसके पास रेलिंग है और कंपनी के बाहर के किसी व्यक्ति द्वारा इसकी पुष्टि करने के बीच यही अंतर है।

क्षमताएं संरेखण से आगे निकल रही हैं

दोनों शोधकर्ता एक ही मूल समस्या की ओर इशारा करते हैं: एआई सिस्टम क्या कर सकता है और कोई भी उनके व्यवहार के बारे में क्या सत्यापित कर सकता है, के बीच का अंतर बढ़ रहा है, खत्म नहीं हो रहा है।

चुगताई ने लिखा, "एआई संरेखण की हमारी समझ की तुलना में फ्रंटियर एआई क्षमताओं में बहुत तेजी से सुधार हो रहा है।" "हम समय पर संरेखण को हल करने की राह पर नहीं हैं।"

अपने पोस्ट में, चुगताई ने जुलाई की घटना का हवाला दिया जिसमें प्रायोगिक ओपनएआई मॉडल अपने सीमित परीक्षण वातावरण से बाहर निकल गए, खुले इंटरनेट पर पहुंच गए और हगिंग फेस प्लेटफॉर्म को हैक कर लिया। चुगताई के लिए, इस प्रकरण ने प्रदर्शित किया कि एआई अब "हमारे नियंत्रण से बच सकता है और खतरनाक कार्रवाई कर सकता है जिसके परिणामस्वरूप स्थायी रूप से अशक्तीकरण या मानवता की मृत्यु हो सकती है।" घटना, और स्वायत्त आत्म-सुधार क्षमताओं ने इसमें भूमिका निभाई है, सुरक्षा बहस में एक आवर्ती प्रदर्शन बन गया है।

फ्रंटियर लैब्स से बढ़ता पलायन

ये दोनों प्रस्थान एक व्यापक पैटर्न का हिस्सा हैं। जैकब कॉक्सन - ओपनएआई के एक पूर्व कर्मचारी, जो एंथ्रोपिक में चले गए थे - ने 9 सितंबर को इस्तीफा दे दिया, उन्होंने सहकर्मियों को बताया कि प्रमुख प्रयोगशालाएं "आत्म-सुधार सुपरइंटेलिजेंस की दौड़ में हैं और हमारे जीवन के साथ जुआ खेल रही हैं," जैसा कि पहले बताया गया था। एक सप्ताह में तीन अलग-अलग कंपनियों से तीन इस्तीफे, सभी एक ही शिकायत कर रहे हैं: सिस्टम को नियंत्रण में रखने की क्षमता में वृद्धि किसी की भी क्षमता से अधिक हो रही है।

पर्यवेक्षकों का कहना है कि यह मायने रखता है कि ये चेतावनियाँ ऊपर से रणनीतिक तर्क देने वाले अधिकारियों के बजाय काम करने वाले शोधकर्ताओं से आती हैं। चुगताई और एंगेल्स दोनों ने दुनिया की सबसे करीबी नजर वाली सीमांत प्रयोगशालाओं में से एक के अंदर काम किया, उस टीम पर जिसे विशेष रूप से इन जोखिमों का अनुमान लगाने का काम सौंपा गया था, और दोनों ने रिकॉर्ड पर निष्कर्ष निकाला कि उन्हें इस बात पर भरोसा नहीं था कि यह कहां जा रहा है।

Google की अनुसंधान शाखा में वर्षों से गिरावट आ रही है। फॉर्च्यून के अनुसार, डीपमाइंड में आगमन और प्रस्थान का अनुपात 2023 में लगभग 12-से-1 से गिरकर 2026 की तीसरी तिमाही में लगभग 2-से-1 हो गया है, जिसमें जेफ डीन, संजय गेमावत, नोम शाज़ीर और नोबेल पुरस्कार विजेता जॉन जम्पर सहित प्रमुख हस्तियां शामिल हैं, जो चले गए हैं, जिनमें से कई प्रतिद्वंद्वियों और स्टार्टअप के लिए हैं। एंथ्रोपिक ने डीपमाइंड दलबदलुओं का सबसे बड़ा हिस्सा खींच लिया है।

Google ने बहुत कम कहा है. रिपोर्ट के मुताबिक, जब चुगताई की पोस्ट प्रसारित होने लगी तो डीपमाइंड के प्रवक्ता तुरंत टिप्पणी के लिए उपलब्ध नहीं थे और कंपनी ने मंगलवार तक कोई सार्वजनिक प्रतिक्रिया जारी नहीं की थी।

राजनेता और अधिकारी अलग-अलग रहते हैं

एआई सुरक्षा चर्चा के लिए एक असाधारण सप्ताह के बीच में ये इस्तीफे हुए हैं। एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने शनिवार को उद्योग से सीमांत विकास की गति को धीमा करने का आह्वान किया, ओपनएआई के सैम ऑल्टमैन, गूगल के डेमिस हसाबिस और एलोन मस्क ने इस स्थिति का समर्थन किया। द गार्जियन ने इस सप्ताह छह विशेषज्ञों से यह बताने के लिए कहा कि वास्तव में जोखिम क्या हैं, यह इस बात का माप है कि बहस अनुसंधान समुदाय से मुख्यधारा की चर्चा तक कितनी दूर तक पहुंच गई है।

राष्ट्रपति डोनाल्ड ट्रम्प ने एक आश्चर्यजनक स्पीकरफ़ोन कॉल में चेतावनियों को "धोखा" कहकर खारिज कर दिया, जिसने लॉस एंजिल्स में एनवीडिया के मुख्य कार्यकारी जेन्सेन हुआंग की मंच उपस्थिति को बाधित कर दिया था। हुआंग ने शोधकर्ताओं की चेतावनियों को सीधे संबोधित करते हुए सोमवार को कहा कि गंभीर दृष्टिकोण "विज्ञान पर आधारित नहीं है।" एएफपी के अनुसार, उन्होंने कहा, विलुप्त होने की भविष्यवाणियों और मंदी की कॉल का संगम "खतरनाक और परेशान करने वाला है और ऐसा नहीं किया जाना चाहिए। यह गैर-जिम्मेदाराना है।" बाजार टिप्पणीकारों ने कहा कि अल्फाबेट के शेयरों में गिरावट आई क्योंकि निवेशकों ने बढ़ती सुरक्षा बहस को गंभीरता से लिया।

चुगताई का अपना प्रश्न विशिष्ट है: वह चाहते हैं कि एआई कंपनियां अपनी प्रतिस्पर्धी दौड़ को धीमा करें, वास्तविक पारदर्शिता के लिए प्रस्तुत हों, और उस गति पर समन्वय करें जिसे "समाज संभाल सकता है" - बजाय इसके कि किसी भी प्रयोगशाला द्वारा निर्धारित एक सेट के पीछे छूट जाने का डर हो। यह वही सौदा है जिसे सरकारों को अब रेफरी करने के लिए कहा जा रहा है, और जैसा कि इस सप्ताह स्पष्ट किया गया है, न तो प्रयोगशालाएं और न ही राजनेता शर्तों पर समझौते के करीब हैं।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →