इस सप्ताह एंथ्रोपिक के अंदर से सार्वजनिक चेतावनियों की लहर तेज हो गई क्योंकि एआई कंपनी के कई शोधकर्ताओं ने एक पूर्व सहयोगी के कृत्रिम बुद्धिमत्ता के सर्वनाशकारी मूल्यांकन को दोहराया - एलोन मस्क की ओर से अपमानजनक प्रतिक्रिया, जिन्होंने सुझाव दिया कि आक्रोश एक समन्वित "साइकोप" था।

द गार्जियन के अनुसार, एंथ्रोपिक शोधकर्ता जैकब कॉक्सन द्वारा एक वायरल पोस्ट में अपने इस्तीफे की घोषणा के एक दिन बाद वृद्धि हुई, जिसमें लिखा था कि न तो एंथ्रोपिक और न ही ओपनएआई - उनके पूर्व नियोक्ता - जिम्मेदारी से एआई मॉडल का निर्माण कर रहे थे और "हमारे जीवन के साथ जुआ खेल रहे थे।" विवाद थमने के बजाय और बढ़ गया क्योंकि वर्तमान एंथ्रोपिक स्टाफ ने समर्थन में अपने स्वयं के गंभीर आकलन पोस्ट किए। For more context on this story, see our ongoing latest AI developments.

चेतावनियों का ढेर लग गया

एना वांग, जो एंथ्रोपिक में कृत्रिम सामान्य बुद्धिमत्ता सुरक्षा पर काम करती हैं और पहले Google के डीपमाइंड में काम करती थीं, ने गुरुवार को कहा कि कंपनी में कई लोग तेजी से सक्षम मॉडलों द्वारा उत्पन्न जोखिमों की योजना बनाने के लिए विकास को धीमा करना चाहते हैं।

वांग ने एक्स पर लिखा, "पुनरावर्ती स्व-सुधार एआई से जोखिमों को हल करने के लिए अभी तक कोई व्यवहार्य वैज्ञानिक योजना नहीं है।"

एक अन्य एंथ्रोपिक कर्मचारी, ड्रेक थॉमस ने कहा कि वह प्रौद्योगिकी के निर्माण से दूर हटने के कॉक्सन के फैसले का सम्मान करते हैं। थॉमस ने लिखा, "चीजें बहुत तेजी से आगे बढ़ रही हैं, हमारे पास एएसआई [कृत्रिम अधीक्षण] के लिए अपेक्षित आश्वासन की डिग्री के आसपास भी नहीं है।"

सैमुअल मार्क्स, जो कंपनी में सुरक्षा अनुसंधान पर काम करते हैं, ने तर्क दिया कि उद्योग के अंदर चिंताओं को व्यापक रूप से साझा किया जाता है - और वरिष्ठता अलार्म से संबंधित है। मार्क्स ने लिखा, "एआई डेवलपर्स का मानना ​​है कि उनकी तकनीक मानव विलुप्ति (या इसी तरह बुरे परिणाम) का कारण बन सकती है।" "यह अगले कुछ वर्षों में हो सकता है। सामान्य तौर पर, कर्मचारी जितना अधिक वरिष्ठ होगा, वह उतना ही अधिक चिंतित होगा।"

इवान हुबिंगर, जो खुद को एंथ्रोपिक के संरेखण प्रभाग में अग्रणी बताते हैं, सबसे आगे निकल गए। "हम वास्तव में दृढ़ता से विश्वास करते हैं कि एआई सभी मनुष्यों को मार सकता है!" ह्यूबिंगर ने लिखा, उन्होंने व्यक्तिगत रूप से अगले दशक के भीतर संभावना को 10 प्रतिशत से ऊपर रखा है।

इनसाइडर नोट्स सीबीएस न्यूज़ की रिपोर्ट के बाद आते हैं कि एक एंथ्रोपिक शोधकर्ता ने मानव विलुप्त होने के लिए एआई को 10 प्रतिशत से अधिक मौका दिया है, और द जापान टाइम्स ने कवरेज किया है कि चेतावनियों ने संयुक्त राज्य अमेरिका में नए एआई नियमों के लिए कॉल को फिर से शुरू कर दिया है।

मस्क: 'एक सेटअप की तरह लगता है'

एलोन मस्क ने तीव्र प्रतिकूल दृष्टिकोण अपनाया। दुनिया के सबसे अमीर आदमी ने अपने सोशल प्लेटफॉर्म एक्स पर लिखा, "एक सेटअप जैसा लगता है।"

कॉक्सन ने एक सेल्फी के साथ उत्तर दिया: "मैं वास्तविक हूं और ये मेरी वास्तविक मान्यताएं हैं। यदि आपने उन्हें नौकरी से नहीं निकाला होता तो आप अपने एक्सएआई शोधकर्ताओं से मेरे बारे में पूछ सकते थे।"

मस्क और अन्य सहानुभूतिपूर्ण आवाज़ों ने रूढ़िवादी थिंक टैंक कैपिटल रिसर्च के एक शोधकर्ता पार्कर थायर द्वारा जारी एक सिद्धांत को बढ़ाया, जिन्होंने सुझाव दिया - थोड़े सबूत के साथ, द गार्जियन नोट - कि कॉक्सन की पोस्ट "एआई को विस्मृति में विनियमित करने के लिए डेमोक्रेट के लिए समर्थन प्राप्त करने के लिए एक बहुत ही परिष्कृत और अच्छी तरह से वित्त पोषित पीआर ऑपरेशन" का शुरुआती कदम था।

अरबपति हेज फंड मैनेजर बिल एकमैन ने थायर की पोस्ट को एक शब्द के उत्तर के साथ उद्धृत किया: "दिलचस्प।"

मस्क ने बाद में विस्तार से बताया। उन्होंने पोस्ट किया, "मुझे लगता है कि इस psy ऑप के लिए (बेहतर कार्यकाल की कमी के लिए) आधार लंबे समय से तैयार किया गया है।" "यही वह माचिस थी जिसने आग जलाई।"

एंथ्रोपिक अपने दृष्टिकोण का बचाव करता है

अपने कर्मचारियों की चेतावनियों और बाहर से हमलों के बीच फंसे एंथ्रोपिक ने एक नपी-तुली सार्वजनिक प्रतिक्रिया पेश की।

कंपनी के एक प्रवक्ता ने द गार्जियन को बताया, "हम हमेशा से इस बात को लेकर पारदर्शी रहे हैं कि एआई भारी लाभ और अभूतपूर्व जोखिम दोनों लाएगा।" "इन जोखिमों से निपटने के लिए, हम उद्योग में कुछ सबसे मजबूत सुरक्षा उपायों के साथ मॉडल बनाना जारी रखते हैं।"

कंपनी ने दस्तावेज़ीकरण और दुरुपयोग को बाधित करने के अपने ट्रैक रिकॉर्ड की ओर इशारा किया। जिस दिन चेतावनियाँ वायरल हुईं, उसी दिन एंथ्रोपिक ने अपनी सितंबर की ख़तरे की ख़ुफ़िया रिपोर्ट जारी की, जिसमें बताया गया कि कैसे कंपनी ने अपने एआई मॉडल का उपयोग करके जैविक हथियार बनाने का प्रयास करने वाले एक ऑपरेशन को नष्ट कर दिया - साथ ही साइबर हमलों और प्रभाव संचालन को बाधित करने वाले अभियानों को भी। अल जज़ीरा और बीबीसी शुक्रवार को जैवहथियारों की खोज पर प्रकाश डालने वाले आउटलेटों में से थे।

संशयवादी एक अलग जोखिम देखते हैं

हर कोई विलुप्त होने की रूपरेखा को स्वीकार नहीं करता। वैज्ञानिक और लंबे समय से एआई आलोचक गैरी मार्कस ने तर्क दिया कि प्रौद्योगिकी पहले से ही नुकसान पहुंचा रही है, जिसके लिए अधीक्षण परिदृश्यों की परवाह किए बिना कार्रवाई की आवश्यकता है - वर्तमान क्षति पर एआई के बहिष्कार का आह्वान।

विलुप्त होने से अधिक, मार्कस ने द गार्जियन को बताया कि वह "एआई-जनित रोगजनकों से, एआई-जनित दुष्प्रचार द्वारा शुरू किए गए या बढ़े हुए युद्धों से, महत्वपूर्ण बुनियादी ढांचे को नष्ट करने वाले हैक से, इत्यादि से" तबाही के खतरे" के बारे में चिंतित हैं। मैंने जो कुछ भी नहीं देखा है वह कोई संकेत देता है कि इनमें से कोई भी नियंत्रण में है।"

उनकी स्थिति एआई सुरक्षा बहस के भीतर ही एक विभाजन को रेखांकित करती है: उन लोगों के बीच जो भविष्य की प्रणालियों से दीर्घकालिक, सभ्यता-स्तर के जोखिम पर केंद्रित हैं, और जो आज के मॉडल से होने वाले ठोस नुकसान पर केंद्रित हैं।

एक बहस जो आंतरिक रहने से इनकार करती है

एक शोधकर्ता के त्याग पत्र के रूप में जो शुरू हुआ वह इस बात पर एक सार्वजनिक जनमत संग्रह बन गया है कि एआई उद्योग अपनी सबसे शक्तिशाली प्रणालियों का निर्माण कैसे कर रहा है। एंथ्रोपिक के अंदर, कर्मचारी खुलेआम बहस कर रहे हैं कि क्या सुरक्षित विकास के लिए उनकी अपनी समय-सीमा समाप्त हो गई है। इसके बाहर, चेतावनियों को तेजी से ध्रुवीकृत राजनीतिक लड़ाई में तब्दील किया जा रहा है कि सरकारों को हस्तक्षेप करना चाहिए या नहीं और कैसे करना चाहिए।

द गार्जियन की रिपोर्टिंग से पता चलता है कि कई एंथ्रोपिक कर्मचारी निजी तौर पर इन चिंताओं को साझा करते हैं लेकिन सार्वजनिक रूप से बात नहीं करते हैं। यदि उनमें से अधिक लोग कॉक्सन, वांग, थॉमस, मार्क्स और हुबिंगर का अनुसरण करते हैं, तो अग्रणी एआई प्रयोगशालाओं पर दबाव धीमा करने और नियामकों पर कार्रवाई करने का दबाव केवल बढ़ेगा।

_यह लेख सीबीएस न्यूज़, द जापान टाइम्स, अल जज़ीरा और बीबीसी के अतिरिक्त संदर्भ के साथ, द गार्जियन की रिपोर्टिंग पर आधारित है।_

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →