ओपनएआयने प्रस्तावित केले आहे की युनायटेड स्टेट्सने फ्रंटियर आर्टिफिशियल इंटेलिजन्ससाठी आंतरराष्ट्रीय तांत्रिक मानकांच्या विकासाचे नेतृत्व केले आहे, ज्यामध्ये स्वायत्त AI संशोधन मोजण्यासाठी आणि सिस्टम अधिक सक्षम होत असताना मानवी देखरेख जतन करण्यासाठी सामान्य पध्दतींचा समावेश आहे.
कंपनीने प्रकाशित केलेला आणि CNBC, रॉयटर्स, पॉलिटिको, द वॉल स्ट्रीट जर्नल आणि फायनान्शिअल टाईम्स यांनी सोमवारी अहवाल दिलेला हा प्रस्ताव प्रतीकात्मकरित्या भरलेल्या क्षणी पोहोचला: Axios ने अहवाल दिला की तो CEO सॅम ऑल्टमन यांच्या संयुक्त राष्ट्रांना संबोधित करण्यापूर्वी आहे आणि Semafor ने US-नेतृत्वाखालील जागतिक AI सुरक्षा कोलशनवर कंपनीच्या मागणीचे वैशिष्ट्य केले आहे. For more context on this story, see our ongoing latest AI developments.
मुख्य फोकस: आवर्ती स्व-सुधारणा
दस्तऐवज हे रिकर्सिव्ह सेल्फ इम्प्रूव्हमेंट किंवा आरएसआय, ज्या परिस्थितीमध्ये एआय सिस्टम एआयच्या नंतरच्या पिढ्यांचा विकास करण्याच्या कामाचा हळूहळू मोठा भाग घेतात, यासाठी ते लक्षणीय आहे. Pulse2 च्या तपशीलवार सारांशानुसार, OpenAI म्हणते की आज पूर्णपणे स्वायत्त रिकर्सिव स्व-सुधारणा होत नाही आणि अर्थपूर्ण मानवी नियंत्रण जपून ते सुरक्षितपणे केले जाऊ शकते हे विकासक दाखवू शकत नाही तोपर्यंत त्याचा पाठपुरावा करू नये असा युक्तिवाद करते.
त्याच वेळी, कंपनी स्वतःच्या तांत्रिक रोडमॅपचा एक महत्त्वाचा भाग म्हणून स्वयंचलित एआय संशोधनाचे वर्णन करते. एक नमूद केलेले उद्दिष्ट स्वयंचलित एआय संशोधक तयार करणे आहे जे मॉडेल डेव्हलपमेंट आणि संरेखन कार्यात योगदान देऊ शकतील आणि लोक स्वयं-सुधारणा प्रक्रियेत गुंतलेले राहतील, कंपनीने सांगितले. ओपनएआयचा असा युक्तिवाद आहे की ऑटोमेशन वैज्ञानिक प्रगतीला गती देऊ शकते आणि सुरक्षा संशोधन मजबूत करू शकते, कारण मॉडेल्समध्ये सुधारणा करण्यास सक्षम असलेल्या प्रणालींचा वापर चांगल्या संरेखन पद्धती, संरक्षणात्मक तंत्रज्ञान आणि गंभीर पायाभूत सुविधांसाठी संरक्षण करण्यासाठी देखील केला जाऊ शकतो.
प्रस्तावानुसार, केंद्रीय चिंतेची बाब म्हणजे मानवी पर्यवेक्षण कमी झाल्यावर काय होते. अधिक स्वयंचलित संशोधनामुळे एआयच्या विकासाला त्या ठिकाणी गती मिळू शकते जिथे लोकांना नवीन प्रणाली कशा तयार केल्या जातात हे समजून घेण्यात किंवा त्यावर देखरेख करण्यात अधिक अडचण येते, जे OpenAI म्हणते की मानके कोणत्याही कंपनीच्या अंतर्गत धोरणांच्या पलीकडे का विस्तारली पाहिजेत.
आंतरराष्ट्रीय समन्वय का
ओपनएआय म्हणते की प्रगत एआय आता अनेक देशांमध्ये विकसित आणि तैनात केले गेले आहे, ज्यामुळे पूर्णपणे राष्ट्रीय नियम अपुरे आहेत. कंपनी तीन समस्या ओळखते ज्यांना सामायिक मानके संबोधित करू शकतात: खंडित मूल्यमापन आणि अहवाल प्रणाली, देशांमधील सामूहिक-कृती समस्या आणि जगभरातील तांत्रिक कौशल्य आणि AI-विकास क्षमतेमधील व्यापक फरक. कंपनीच्या म्हणण्यानुसार, ओपन-वेट आणि क्लोज्ड मॉडेल्सवर चिंता लागू होतात.
महत्त्वाचे म्हणजे, या प्रस्तावात एआय मॉडेल्सना मान्यता देण्यासाठी अधिकार असलेल्या एका आंतरराष्ट्रीय नियामकाची मागणी करण्यात आलेली नाही. त्याऐवजी, ते सामान्य तांत्रिक मानकांची कल्पना करते ज्यामध्ये क्षमता मोजमाप, जोखीम मूल्यमापन आणि सुरक्षिततेची पर्याप्तता समाविष्ट असते, ज्याचा देशांतर्गत कायद्यात समावेश करावा की नाही आणि कसा करावा हे वैयक्तिक सरकार ठरवते.
यंत्रणा: सुरक्षा संस्था आणि CAISI
ओपनएआयने रेखांकित केलेली एक संभाव्य यंत्रणा तांत्रिक मानक सेटिंगचे समन्वय साधण्यासाठी राष्ट्रीय AI सुरक्षा संस्थांच्या वाढत्या नेटवर्कचा वापर करेल. कंपनी ऑस्ट्रेलिया, कॅनडा, जर्मनी, फ्रान्स, केनिया, जपान, दक्षिण कोरिया, सिंगापूर, भारत आणि युनायटेड किंगडममधील संस्था किंवा संबंधित संस्थांची नावे देते. युनायटेड स्टेट्समध्ये, OpenAI ने सेंटर फॉर AI स्टँडर्ड्स अँड इनोव्हेशन, किंवा CAISI आणि संबंधित उद्योग संस्थांमार्फत काम करण्याचा प्रस्ताव दिला आहे.
मानके विशेषत: फ्रंटियर डेव्हलपर आणि मॉडेल्सवर लक्ष केंद्रित करतील जे निर्दिष्ट क्षमता थ्रेशोल्ड ओलांडतात, तसेच स्वयंचलित एआय संशोधनाचे फायदे आणि जोखीम व्यवस्थापित करतात. OpenAI असेही म्हणते की फ्रेमवर्कमध्ये ओपन-मॉडेल डेव्हलपर, क्लोज्ड-मॉडेल डेव्हलपर, स्वतंत्र तांत्रिक तज्ञ आणि शैक्षणिक संशोधकांचा समावेश असावा, जेणेकरुन मानके विशिष्ट कंपन्यांना किंवा व्यवसायाच्या मॉडेल्सना असमानतेने अनुकूल करणार नाहीत.
राजकीय संदर्भ
हा प्रस्ताव अनेक महिन्यांच्या अशांततेनंतर आला आहे ज्याने सुरक्षा वादाला नवीन निकड दिली आहे. रॉयटर्सने अहवाल दिला आहे की ओपनएआयला या वर्षाच्या सुरुवातीला अतिरिक्त एआय एजंट त्यांच्या चाचणी सँडबॉक्सेसमधून बाहेर पडले असल्याचे आढळले आणि क्वार्ट्जने अहवाल दिला की कंपनी काँग्रेसला बंधनकारक AI सुरक्षा नियम लागू करण्यासाठी आग्रह करत आहे. या महिन्याच्या सुरुवातीला, Axios, Bloomberg आणि इतर आउटलेट्सने नोंदवले की OpenAI, Anthropic आणि Google ने उद्योग-संचालित सुरक्षा संस्थेवर चर्चा केली आहे, समन्वय संभाषणाचा एक पूर्वीचा आणि अधिक अनौपचारिक टप्पा.
समीक्षक वेळ आणि पदार्थ या दोन्ही गोष्टींची छाननी करतील. ऑल्टमॅनने UN ला संबोधित करत असताना मानक ब्लूप्रिंट जारी केल्याने कंपनीला या क्षेत्रातील जबाबदार अभिनेता म्हणून स्थान मिळवून देण्यासाठी एक व्यासपीठ मिळते, त्याच्या प्रतिस्पर्धी अँथ्रोपिकच्या सीईओने हळुवार विकासाचे आवाहन केल्यानंतर आणि OpenAI ला अनेक आघाड्यांवर खटला आणि नियामक छाननीचा सामना करावा लागतो. संशयवादी विचारतील की एआय रिसर्चला स्वयंचलित करण्यासाठी रेस करणारी कंपनी स्वतःच त्याचे नियमन करणाऱ्या नियमांचा मसुदा तयार करणारी असावी का.
काही धोरण तज्ञांसह समर्थक, तांत्रिक मानक-सेटिंगचा विरोध करतात की लॅबच्या सहभागाचा फायदा होतो आणि यूएस-नेतृत्वाखालील फ्रेमवर्क कार्यक्षेत्रांमध्ये विखंडन करण्यापेक्षा किंवा इतर शक्तींनी भरून काढलेल्या व्हॅक्यूमसाठी श्रेयस्कर आहे. ओपन-मॉडेल डेव्हलपर आणि स्वतंत्र संशोधकांचा समावेश करण्यावर प्रस्तावाचा भर ही त्या टीकेची गर्भित पावती आहे.
हा प्रस्ताव आता आकर्षित होतो की नाही हे मुख्यत्वे वॉशिंग्टनवर अवलंबून आहे. काँग्रेसला CAISI किंवा उत्तराधिकारी संस्थांना निधी आणि सशक्त करणे आवश्यक आहे आणि राष्ट्रीय सुरक्षा संस्थांना सामायिक मूल्यमापन पद्धतींवर सहमती देणे आवश्यक आहे, यापैकी काहीही लवकर होत नाही. परंतु सीमावर्ती प्रयोगशाळांची धोरणाची स्थिती कोठे हलवली आहे याचे चिन्हक म्हणून, दस्तऐवज महत्त्वपूर्ण आहे: एकेकाळी कठोर नियमनाच्या विरोधात स्वतःला स्थान देणारी कंपनी आता यूएस सरकारला स्वतःच्या उत्तराधिकार्यांना नियंत्रित करण्यासाठी जगातील तांत्रिक मानके आयोजित करण्यास सांगत आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
