मानववंशीय मुख्य कार्यकारी डारियो अमोदेई यांनी कायदेकर्त्यांना चेतावणी दिली आहे की मुक्त-स्रोत कृत्रिम बुद्धिमत्तेकडे प्रवेगक प्रवृत्ती समाजाला धोकादायक मार्गावर नेऊ शकते जर शक्तिशाली मॉडेल्स काळजीपूर्वक संरक्षणाशिवाय सोडले गेले तर, AI धोरणातील सर्वात वादग्रस्त वादविवादांपैकी एक पुन्हा सुरू झाला.

क्लॉड फॅमिली ऑफ मॉडेल्सच्या मागे कंपनीची स्थापना आणि नेतृत्व करणाऱ्या अमोदेईने असा युक्तिवाद केला की ओपन-सोर्स AI चे अनन्य स्वरूप, जे प्रगत प्रणाली कोणालाही डाउनलोड, सुधारित आणि उपयोजित करण्यासाठी मुक्तपणे उपलब्ध करून देते, परंपरागत मुक्त-स्रोत सॉफ्टवेअर कधीही उद्भवू नये असे जोखीम निर्माण करते. टेकेडियाने नोंदवलेले त्यांचे टिप्पण्या, सक्षम AI सार्वजनिकरित्या वितरित केल्यावर ते नियंत्रित करण्याच्या अडचणीवर केंद्रस्थानी आहेत. या कथेच्या अधिक संदर्भासाठी, आमच्या सुरू असलेल्या अधिक AI कथा पहा.

पारंपारिक सॉफ्टवेअरच्या विपरीत, अत्याधुनिक एआय प्रणाली खात्रीलायक मजकूर तयार करू शकतात, वास्तववादी प्रतिमा तयार करू शकतात, संगणक कोड लिहू शकतात आणि सायबरसुरक्षा कार्यांमध्ये मदत करू शकतात. अमोदेईचे म्हणणे आहे की चुकीच्या हातात त्या क्षमतांचा वापर सायबर हल्ल्यांना स्वयंचलित करण्यासाठी, अत्याधुनिक डिसइन्फॉर्मेशन मोहिमा माउंट करण्यासाठी किंवा हानिकारक जैविक संशोधन करण्यासाठी केला जाऊ शकतो.

कायमची समस्या

अमोदेईने हायलाइट केलेल्या मध्यवर्ती जोखमींपैकी एक म्हणजे शक्तिशाली मॉडेल एकदा उघडपणे रिलीझ केले गेले की, ते लक्षात ठेवणे प्रभावीपणे अशक्य होते. नवीन असुरक्षा उदयास आल्यावर कंपन्यांद्वारे चालवल्या जाणाऱ्या बंद प्रणालींचे परीक्षण केले जाऊ शकते, पॅच केले जाऊ शकते आणि प्रतिबंधित केले जाऊ शकते. ओपन-सोर्स मॉडेल, याउलट, अनिश्चित काळासाठी कॉपी केले जाऊ शकते आणि संपूर्ण इंटरनेटवर पुनर्वितरण केले जाऊ शकते, रिलीझ झाल्यानंतर त्याचा वापर मर्यादित करण्यासाठी विकासकांकडे कोणतीही यंत्रणा नाही.

अमोदेईने चेतावणी दिली की, हे कायमस्वरूपी विशेषतः त्रासदायक आहे कारण मॉडेल्स वाढत्या जटिल कार्यांवर मानवी-स्तरीय कामगिरीकडे जातात. त्यांनी असा युक्तिवाद केला की प्रगत AI ला मजबूत सुरक्षितता चाचणी, नियंत्रित उपयोजन आणि योग्य नियामक निरीक्षणाच्या अधीन केले जावे, ते व्यापकपणे उपलब्ध होण्याआधी, सामान्य सॉफ्टवेअरसारखे वागण्याऐवजी ते उघड्यावर सहकार्याने सुधारले जाऊ शकते.

त्याचे स्थान उद्योगातील वाढत्या फॉल्ट लाइनचे प्रतिबिंबित करते. मुक्त-स्रोत AI च्या समर्थकांचा असा युक्तिवाद आहे की सार्वजनिक प्रवेश स्पर्धा वाढवते, तांत्रिक प्रगतीचे लोकशाहीकरण करते आणि काही मूठभर कॉर्पोरेशन्सना कृत्रिम बुद्धिमत्तेची मक्तेदारी करण्यापासून प्रतिबंधित करते. जगभरातील विकासक मॉडेल आर्किटेक्चर, पृष्ठभाग सुरक्षा दोषांचे निरीक्षण करू शकतात आणि सहकार्याने प्रणाली सुधारू शकतात, तर स्टार्टअप, संशोधक आणि शैक्षणिक संस्था महागड्या मालकीच्या प्लॅटफॉर्मवर अवलंबून न राहता तयार करू शकतात.

टेबलवरील विशिष्ट जोखीम

अमोदेईच्या चिंता अमूर्त नाहीत. उघडपणे रिलीझ केलेली मॉडेल्स संशोधकांनी सरळ सोप्या फाइन-ट्यूनिंग तंत्रांचा वापर करून त्यांच्या सुरक्षा रेलिंगपासून आधीच काढून टाकल्या आहेत, ज्याने अंतर्निहित वजन सार्वजनिक झाल्यानंतर संरक्षणात्मक उपाय किती लवकर काढले जाऊ शकतात हे दाखवून दिले. रसायनशास्त्र, जीवशास्त्र आणि सॉफ्टवेअर शोषण यासारख्या कामांमध्ये मॉडेल्स अधिक सक्षम होत असताना, चिंतेची बाब अशी आहे की खुल्या रिलीझमुळे अशा अभिनेत्यांना शक्तिशाली क्षमता मिळू शकतात जे जबाबदार लॅब त्यांच्या ग्राहकांवर लादलेल्या स्क्रीनिंगला कधीही पास करणार नाहीत.

चुकीच्या माहितीच्या परिमाणानेही छाननी केली आहे. वास्तववादी मजकूर, प्रतिमा आणि ऑडिओ मोठ्या प्रमाणावर तयार करू शकणारे मॉडेल निवडणुकीतील हस्तक्षेप, आर्थिक फसवणूक किंवा प्रचाराच्या मोठ्या प्रमाणावर उत्पादनाकडे वळले जाऊ शकतात. कारण एक खुले मॉडेल पूर्णपणे आक्रमणकर्त्याच्या स्वतःच्या हार्डवेअरवर चालते, Amodei ने नमूद केले, थ्रॉटल करण्यासाठी कोणतेही API नाही, निलंबित करण्यासाठी कोणतेही खाते नाही आणि एकदा नुकसान झाल्यानंतर जबाबदार धरण्यासाठी कोणताही प्रदाता नाही.

स्पर्धात्मक पार्श्वभूमी

चिनी विकसकांकडून सक्षम ओपन मॉडेल्सच्या वाढीदरम्यान अमोदेई चे इशारे येतात. Zhipu च्या GLM-5.2 ने, इतर कमी किमतीच्या चिनी प्रणालींसह, त्वरीत उघडे आणि उघडपणे उपलब्ध मॉडेल्स अँथ्रोपिक आणि ओपनएआय मधील फ्रंटियर प्रोप्रायटरी सिस्टम्समधील अंतर किती कमी करत आहेत याकडे नवीन लक्ष वेधले आहे. त्या स्पर्धात्मक दबावामुळे खुल्या रिलीझवरील निर्बंधांमुळे प्रबळ कंपन्यांचा फायदा होईल की दुरुपयोगाच्या संपर्कात असलेल्या संस्थांना फायदा होईल की नाही यावर धोरणात्मक वादविवाद तीव्र झाला आहे.

अमोदेईच्या भूमिकेचे समीक्षक म्हणतात की मुक्त-स्रोत AI प्रतिबंधित केल्याने अनवधानाने मोठ्या तंत्रज्ञान कंपन्यांना स्वतंत्र नवकल्पना मर्यादित करू शकते. ते हे देखील लक्षात घेतात की पारदर्शकता वारंवार संशोधकांना बंद विकासापेक्षा असुरक्षा ओळखू देते. खुल्या विकासाचे अनेक समर्थक देखील कबूल करतात की, वाढत्या शक्तिशाली प्रणालींना सॉफ्टवेअरच्या मागील पिढ्यांपेक्षा मजबूत प्रशासन फ्रेमवर्कची आवश्यकता असू शकते.

नियामक टायट्रोप

जगभरातील सरकारे नवीन एआय नियमांचे वजन करत असल्याने चर्चेला निकड प्राप्त झाली आहे. धोरणनिर्मात्यांना कठीण संतुलनाचा सामना करावा लागतो: अत्याधिक निर्बंधांमुळे आर्थिक वाढ आणि वैज्ञानिक शोध कमी होऊ शकतात, तर अपुरे निरीक्षण समाजांना अशा जोखमींना सामोरे जाऊ शकते ज्याचा अंदाज लावणे कठीण आहे. तो समतोल साधण्यासाठी, अमोदेईने सुचवले की, सरकार, तंत्रज्ञान कंपन्या, शैक्षणिक संशोधक आणि नागरी समाज यांच्यात सहकार्य आवश्यक आहे.

त्याची साक्ष दशकातील एक परिभाषित तंत्रज्ञान धोरण वादविवाद अधोरेखित करते. जसजसे कृत्रिम बुद्धिमत्ता अधिक सक्षम होत जाते, तसतसे परिवर्तनशील प्रणालींमध्ये व्यापक प्रवेशाशी निगडित धोके कमी करताना नवनिर्मितीला प्रोत्साहन कसे द्यायचे हे समाजाने ठरवले पाहिजे. नियमन, उद्योग मानके किंवा आंतरराष्ट्रीय सहकार्य याद्वारे असो, ओपन-सोर्स AI वरील येत्या काही महिन्यांत केलेल्या निवडी या तंत्रज्ञानावर कोण नियंत्रण ठेवते आणि ते किती सुरक्षितपणे उपयोजित आहे, येणाऱ्या वर्षांसाठी आकार देऊ शकते.

एन्थ्रोपिकसाठी, कंपनीच्या एआय सुरक्षिततेवर आणि नियंत्रित रिलीझवर दीर्घकाळ चालणाऱ्या जोराशी ही भूमिका सुसंगत आहे. परंतु ओपन मॉडेल्स वेगाने पुढे जात आहेत आणि नियामक अजूनही पकडण्यासाठी झुंजत आहेत, अमोडेईचे इशारे आणि मुक्त-स्रोत चळवळीचा वेग यामधील अंतर धोरणकर्ते ते बंद करू शकतील त्यापेक्षा वेगाने कमी होत आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →