एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने सांसदों को चेतावनी दी है कि ओपन-सोर्स कृत्रिम बुद्धिमत्ता की ओर बढ़ता रुझान समाज को एक खतरनाक रास्ते पर ले जा सकता है यदि शक्तिशाली मॉडल सावधानीपूर्वक सुरक्षा उपायों के बिना जारी किए जाते हैं, जो एआई नीति में सबसे विवादास्पद बहसों में से एक है।

मॉडलों के क्लाउड परिवार के पीछे कंपनी की स्थापना और नेतृत्व करने वाले अमोदेई ने तर्क दिया कि ओपन-सोर्स एआई की अनूठी प्रकृति, जो किसी को भी डाउनलोड करने, संशोधित करने और तैनात करने के लिए उन्नत सिस्टम को स्वतंत्र रूप से उपलब्ध कराती है, ऐसे जोखिम पैदा करती है जो पारंपरिक ओपन-सोर्स सॉफ़्टवेयर ने कभी उत्पन्न नहीं किए। टेकेडिया द्वारा रिपोर्ट की गई उनकी टिप्पणी सार्वजनिक रूप से वितरित होने के बाद सक्षम एआई को नियंत्रित करने की कठिनाई पर केंद्रित है। इस कहानी पर अधिक संदर्भ के लिए, हमारी चल रही अधिक एआई कहानियां देखें।

पारंपरिक सॉफ़्टवेयर के विपरीत, अत्याधुनिक AI सिस्टम ठोस पाठ उत्पन्न कर सकते हैं, यथार्थवादी चित्र बना सकते हैं, कंप्यूटर कोड लिख सकते हैं और साइबर सुरक्षा कार्यों में सहायता कर सकते हैं। अमोदेई का तर्क है कि गलत हाथों में उन क्षमताओं का उपयोग साइबर हमलों को स्वचालित करने, परिष्कृत दुष्प्रचार अभियान चलाने या हानिकारक जैविक अनुसंधान को आगे बढ़ाने के लिए किया जा सकता है।

स्थायित्व की समस्या

अमोदेई द्वारा उजागर किए गए केंद्रीय जोखिमों में से एक यह है कि एक बार जब एक शक्तिशाली मॉडल खुले तौर पर जारी किया जाता है, तो इसे वापस बुलाना प्रभावी रूप से असंभव हो जाता है। नई कमजोरियाँ सामने आने पर कंपनियों द्वारा संचालित बंद सिस्टम की निगरानी की जा सकती है, पैच किया जा सकता है और प्रतिबंधित किया जा सकता है। इसके विपरीत, एक ओपन-सोर्स मॉडल को अनिश्चित काल तक कॉपी किया जा सकता है और इंटरनेट पर पुनर्वितरित किया जा सकता है, जिससे डेवलपर्स के पास रिलीज के बाद इसके उपयोग को सीमित करने के लिए कोई तंत्र नहीं रह जाता है।

अमोदेई ने चेतावनी दी कि यह स्थायित्व विशेष रूप से परेशान करने वाला है क्योंकि मॉडल तेजी से जटिल कार्यों पर मानव-स्तर के प्रदर्शन का रुख करते हैं। उन्होंने तर्क दिया कि उन्नत एआई को व्यापक रूप से सुलभ होने से पहले मजबूत सुरक्षा परीक्षण, नियंत्रित तैनाती और उचित नियामक निरीक्षण के अधीन किया जाना चाहिए, न कि सामान्य सॉफ्टवेयर की तरह व्यवहार किया जाना चाहिए जिसे खुले में सहयोगात्मक रूप से बेहतर बनाया जा सकता है।

उनकी स्थिति उद्योग में बढ़ती गलती रेखा को दर्शाती है। ओपन-सोर्स एआई के समर्थकों का तर्क है कि सार्वजनिक पहुंच प्रतिस्पर्धा को बढ़ावा देती है, तकनीकी प्रगति का लोकतंत्रीकरण करती है, और मुट्ठी भर निगमों को कृत्रिम बुद्धिमत्ता पर एकाधिकार करने से रोकती है। दुनिया भर के डेवलपर्स मॉडल वास्तुकला, सतह सुरक्षा खामियों का निरीक्षण कर सकते हैं और सहयोगात्मक रूप से सिस्टम में सुधार कर सकते हैं, जबकि स्टार्टअप, शोधकर्ता और शैक्षणिक संस्थान महंगे मालिकाना प्लेटफार्मों पर निर्भर हुए बिना निर्माण कर सकते हैं।

मेज पर विशिष्ट जोखिम

अमोदेई की चिंताएँ अमूर्त नहीं हैं। खुले तौर पर जारी किए गए मॉडलों को पहले से ही शोधकर्ताओं द्वारा सीधी फाइन-ट्यूनिंग तकनीकों का उपयोग करके उनकी सुरक्षा रेलिंग से हटा दिया गया है, एक अभ्यास जिसने दिखाया कि अंतर्निहित वजन सार्वजनिक होने के बाद सुरक्षात्मक उपायों को कितनी जल्दी हटाया जा सकता है। जैसे-जैसे मॉडल रसायन विज्ञान, जीव विज्ञान और सॉफ्टवेयर शोषण जैसे कार्यों में अधिक सक्षम होते जा रहे हैं, चिंता यह है कि खुली रिलीज उन अभिनेताओं को शक्तिशाली क्षमताएं दे सकती है जो कभी भी उस स्क्रीनिंग को पास नहीं करेंगे जो जिम्मेदार प्रयोगशालाएं अपने ग्राहकों पर थोपती हैं।

दुष्प्रचार के आयाम की भी जांच की गई है। जो मॉडल बड़े पैमाने पर यथार्थवादी पाठ, चित्र और ऑडियो उत्पन्न कर सकते हैं, उन्हें चुनावी हस्तक्षेप, वित्तीय धोखाधड़ी या प्रचार के बड़े पैमाने पर उत्पादन की ओर मोड़ा जा सकता है। क्योंकि एक खुला मॉडल पूरी तरह से हमलावर के अपने हार्डवेयर पर काम करता है, अमोदेई ने कहा, इसमें थ्रॉटल करने के लिए कोई एपीआई नहीं है, निलंबित करने के लिए कोई खाता नहीं है, और क्षति होने के बाद जवाबदेह ठहराने के लिए कोई प्रदाता नहीं है।

एक प्रतिस्पर्धी पृष्ठभूमि

चीनी डेवलपर्स के सक्षम खुले मॉडलों की वृद्धि के बीच अमोदेई की चेतावनियाँ आई हैं। अन्य कम लागत वाली चीनी प्रणालियों के साथ, ज़ीपू के जीएलएम-5.2 ने इस ओर नया ध्यान आकर्षित किया है कि कैसे तेजी से खुले और खुले तौर पर उपलब्ध मॉडल एंथ्रोपिक और ओपनएआई के फ्रंटियर मालिकाना सिस्टम के साथ अंतर को कम कर रहे हैं। उस प्रतिस्पर्धी दबाव ने नीतिगत बहस को तेज कर दिया है कि क्या खुली रिलीज पर प्रतिबंध से प्रमुख कंपनियों को फायदा होगा या समाजों को दुरुपयोग का सामना करना पड़ेगा।

अमोदेई के रुख के आलोचकों का तर्क है कि ओपन-सोर्स एआई को प्रतिबंधित करने से स्वतंत्र नवाचार को सीमित करके अनजाने में बड़ी प्रौद्योगिकी कंपनियां फंस सकती हैं। उन्होंने यह भी ध्यान दिया कि पारदर्शिता अक्सर शोधकर्ताओं को बंद विकास की तुलना में कमजोरियों की पहचान करने की अनुमति देती है। हालाँकि, खुले विकास के कई समर्थक भी स्वीकार करते हैं कि तेजी से शक्तिशाली प्रणालियों को सॉफ्टवेयर की पिछली पीढ़ियों की तुलना में मजबूत शासन ढांचे की आवश्यकता हो सकती है।

नियामक रस्सी

चर्चा ने तात्कालिकता प्राप्त कर ली है क्योंकि दुनिया भर की सरकारें नए एआई नियमों पर विचार कर रही हैं। नीति निर्माताओं को एक कठिन संतुलन का सामना करना पड़ता है: अत्यधिक प्रतिबंध आर्थिक विकास और वैज्ञानिक खोज को धीमा कर सकते हैं, जबकि अपर्याप्त निगरानी समाज को उन जोखिमों में डाल सकती है जिनका अनुमान लगाना मुश्किल है। अमोदेई ने सुझाव दिया कि उस संतुलन को बनाए रखने के लिए सरकारों, प्रौद्योगिकी कंपनियों, अकादमिक शोधकर्ताओं और नागरिक समाज के बीच सहयोग की आवश्यकता है।

उनकी गवाही दशक की परिभाषित प्रौद्योगिकी नीति बहसों में से एक को रेखांकित करती है। जैसे-जैसे कृत्रिम बुद्धिमत्ता अधिक सक्षम होती जा रही है, समाज को यह तय करना होगा कि परिवर्तनकारी प्रणालियों तक व्यापक पहुंच से जुड़े खतरों को कम करते हुए नवाचार को कैसे प्रोत्साहित किया जाए। चाहे विनियमन, उद्योग मानकों, या अंतर्राष्ट्रीय सहयोग के माध्यम से, आने वाले महीनों में ओपन-सोर्स एआई पर किए गए विकल्प यह निर्धारित कर सकते हैं कि प्रौद्योगिकी को कौन नियंत्रित करता है, और आने वाले वर्षों के लिए इसे कितनी सुरक्षित रूप से तैनात किया जाता है।

एंथ्रोपिक के लिए, रुख एआई सुरक्षा और नियंत्रित रिलीज पर कंपनी के लंबे समय से चल रहे जोर के अनुरूप है। लेकिन खुले मॉडल तेजी से आगे बढ़ रहे हैं और नियामक अभी भी पकड़ने के लिए संघर्ष कर रहे हैं, अमोदेई की चेतावनियों और ओपन-सोर्स आंदोलन की गति के बीच का अंतर नीति निर्माताओं द्वारा इसे बंद करने की तुलना में तेजी से कम हो सकता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →