ओपनएआय अनेक स्वतंत्र मूल्यांकनकर्त्यांशी चर्चा करत आहे ज्यांच्याकडे फ्रंटियर AI सुरक्षिततेमध्ये कौशल्य आहे आणि प्रभावी तृतीय-पक्ष मूल्यांकन प्रदान करू शकतात, असे कंपनीने मंगळवारी, 22 सप्टेंबर रोजी प्रकाशित केलेल्या ब्लॉग पोस्टमध्ये म्हटले आहे, PYMNTS ने अहवाल दिला आहे.

प्रभावी तृतीय-पक्ष निरीक्षणासाठी ओपनएआयचे प्रस्तावित प्राधान्यक्रम आणि तत्त्वे या पोस्टमध्ये मांडण्यात आली आहेत - एक फ्रेमवर्क ज्यामध्ये सर्व फ्रंटियर एआय लॅब्सना लागू व्हायला हवे कारण ते वाढत्या सक्षम मॉडेलचे प्रशिक्षण, मूल्यांकन आणि तैनात करतात. घोषणा AI सुरक्षा धोरणासाठी असामान्यपणे आकारलेल्या महिन्याच्या मध्यभागी येते आणि ती टीकाकारांना सवलत आणि सरकारे लिहिण्यापूर्वी नियमांना आकार देण्याचा प्रयत्न म्हणून वाचते. ब्रेकिंग एआय न्यूज फॉलो करणाऱ्या प्रत्येकासाठी, फ्रंटियर मॉडेल्स सुरक्षित आहेत याची पडताळणी कोणाला करायची यावरील प्रयोगशाळा, त्यांचे टीकाकार आणि नियामक यांच्यातील आठवडाभर चाललेल्या स्पर्धेतील ही नवीनतम खेळी आहे.

OpenAI काय प्रस्तावित करत आहे

"आम्ही स्वतंत्र मूल्यांकनकर्त्यांना समर्थन देण्यासाठी आणि स्पष्ट, सामायिक आंतरराष्ट्रीय मानके प्रस्थापित करण्यासाठी वचनबद्ध आहोत - भविष्यातील कायदे आणि खाजगी प्रशासन उपक्रमांद्वारे - प्रभावी तृतीय-पक्ष मूल्यांकनांसाठी," OpenAI ने पोस्टमध्ये म्हटले आहे, PYMNTS नुसार.

ओपनएआयने वर्णन केलेली मुख्य समस्या ही बाजारातील अपयश आहे: फ्रंटियर मॉडेलचे ऑडिट करण्यासाठी तांत्रिक खोली असलेल्या फारच कमी संस्था आहेत. अर्थपूर्ण सुरक्षितता मूल्यमापनासाठी अप्रकाशित प्रणालींमध्ये प्रवेश, सायबरसुरक्षा ते जैवसुरक्षा पर्यंतच्या क्षेत्रातील कौशल्य आणि अनिष्ट निष्कर्ष प्रकाशित करण्यासाठी संस्थात्मक स्वातंत्र्य आवश्यक आहे. एकाच विशेषाधिकारप्राप्त ऑडिटरऐवजी एकाधिक मूल्यांकनकर्त्यांची नियुक्ती करून आणि त्यांना समर्थन देऊन, OpenAI म्हणते की ते एक अशी इकोसिस्टम तयार करू इच्छिते जिथे तृतीय-पक्ष मूल्यमापन हा सीमाप्रणाली तैनात करण्याचा एक नियमित भाग आहे — एकच जनसंपर्क व्यायाम नाही.

कंपनीने ज्या मूल्यांकनकर्त्यांशी बोलत आहे त्यांचे नाव दिले नाही आणि परिणामी व्यवस्था मूल्यांकनकर्त्यांना प्रवेश, निधी स्वातंत्र्य आणि प्रकाशन अधिकार देईल की नाही हे पाहणे बाकी आहे जे सुरक्षा संशोधक अर्थपूर्ण मानतात.

एआय पॉलिसीवर व्हिप्लॅशचा आठवडा

सप्टेंबरच्या AI वादविवादाची व्याख्या केलेल्या धोरणात्मक घडामोडींच्या वेगवान क्रमामध्ये हा प्रस्ताव आला आहे:

  • सोमवार, 21 सप्टेंबर: ओपनएआयने युनायटेड स्टेट्सला फ्रंटियर AI साठी जागतिक तांत्रिक मानके विकसित करण्यासाठी आंतरराष्ट्रीय प्रयत्नांचे नेतृत्व करण्याचे आवाहन केले - पुनरावृत्ती होणाऱ्या स्वयं-सुधारणेसह, ज्या बिंदूवर AI प्रणाली स्वतःमध्ये सुधारणा करतात. कंपनीने चेतावणी दिली की पूर्णपणे स्वायत्त एआय डेव्हलपमेंट हे समजून घेण्याच्या आणि नियंत्रित करण्याच्या मानवाच्या क्षमतेला मागे टाकू शकते आणि पुढे जावे की नाही आणि कसे याबाबत निर्णय आता घेणे आवश्यक आहे.
  • शुक्रवार, 18 सप्टेंबर: कॅलिफोर्नियाचे गव्हर्नर गेविन न्यूजम यांनी राज्याच्या AI सुरक्षा कायद्यांचे बळकटीकरण करण्यासाठी राष्ट्रीय तज्ञांना बोलावून कार्यकारी आदेशावर स्वाक्षरी केली, ज्याचा उद्देश AI सिस्टीममधील सुरक्षा आणि सुरक्षा जोखमींच्या नवीन तृतीय-पक्ष निरीक्षणाच्या अंमलबजावणीला गती देण्याच्या उद्देशाने आहे.
  • शनिवार, 19 सप्टेंबर: राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी ट्रुथ सोशल पोस्टमध्ये उद्योगाच्या सुरक्षिततेची चिंता नाकारली, असे लिहिले: "आम्ही या अविश्वसनीय उद्योगाच्या वाढीस कोणत्याही प्रकारे अडथळा आणणार नाही किंवा रोखणार नाही. AI ही पुढील औद्योगिक क्रांती किंवा इंटरनेट आहे, परंतु त्याहूनही मोठी आणि अधिक परिणामकारक असेल, शक्यतो आपल्या देशाच्या GDP च्या %25% प्रमाणे."

आम्ही या आठवड्याच्या सुरुवातीला नोंदवल्याप्रमाणे, OpenAI च्या US-नेतृत्वाच्या मानकांच्या प्रस्तावाने एका कंपनीसाठी एक धक्कादायक बदल चिन्हांकित केले ज्याने बंधनकारक पर्यवेक्षणाचा प्रतिकार करण्यासाठी वर्षे घालवली — आणि नवीन तृतीय-पक्ष मूल्यमापन तत्त्वे ही स्थिती खाजगी प्रशासन आघाडीवर वाढवतात.

स्वातंत्र्याचा प्रश्न

ओपनएआयचे बाह्य वॉचडॉगचे आलिंगन त्याच्या मुख्य प्रतिस्पर्ध्याच्या समांतर प्रस्तावाचे अनुसरण करते. सुमारे एक आठवड्यापूर्वी, Anthropic CEO Dario Amodei यांनी अग्रगण्य AI कंपन्यांमध्ये एम्बेड केलेल्या स्वतंत्र मूल्यांकनकर्त्यांभोवती तयार केलेला AI सुरक्षा योजना, लोकशाही देशांमधील कंपन्यांमधील समन्वय आणि अखेरीस चीनचा समावेश असलेल्या आंतरराष्ट्रीय कराराचा प्रस्ताव देणारा निबंध प्रकाशित केला.

दोन्ही प्रस्तावांवर तज्ञांकडून तत्काळ संशय निर्माण झाला आहे. CNBC ने अहवाल दिला आहे की 100 पेक्षा जास्त AI तज्ञांची युती Anthropic, OpenAI आणि मूल्यमापन करणाऱ्या इतर फाउंडेशन मॉडेल लॅबमधून स्वातंत्र्य आणि पारदर्शकतेचा आग्रह करत आहे, चेतावणी देते की ज्या मूल्यमापनकर्त्यांना ते लेखापरीक्षण करतात त्या कंपन्यांमध्ये - किंवा द्वारे पैसे दिलेले आहेत - हितसंबंधांच्या अटळ संघर्षांचा सामना करावा लागतो. AI प्रणेते जेफ्री हिंटन यांच्या पाठीशी असलेल्या वॉचडॉग्सनी दोन्ही कंपन्यांना त्यांच्या सुरक्षा योजनांच्या तपशीलांवर दबाव आणला आहे आणि समालोचकांनी AI सुरक्षा मूल्यमापन संस्था आणि स्वतः प्रयोगशाळा यांच्यातील फिरत्या दरवाजावर ध्वजांकित केला आहे: सुरक्षा गृहपाठ ग्रेडिंग करणारे लोक देखील हे लिहिणारे असू शकतात.

ओपनएआयच्या नवीन पोस्टने मिटवण्याचा प्रयत्न केलेला वादाचा हा तणाव आहे. कंपनीचे उत्तर - अधिक मूल्यांकनकर्ते, सामायिक आंतरराष्ट्रीय मानके आणि भविष्यातील कायदे आणि खाजगी उपक्रमांद्वारे अंमलात आणलेले पर्यवेक्षण - हे एक फ्रेमवर्क आहे, अद्याप हमी नाही. समीक्षक निदर्शनास आणतील की नियम प्रस्तावित करणाऱ्या प्रयोगशाळा त्यांच्या अधीन असलेल्या समान प्रयोगशाळा आहेत आणि स्वयं-आकाराच्या प्रशासनाने ऐतिहासिकदृष्ट्या आकार देणाऱ्या कंपन्यांना अनुकूल केले आहे.

हे महत्त्वाचे का आहे

पुढील फ्रंटियर मॉडेल आधीच प्रशिक्षणात आहेत आणि तैनातीपूर्वी देखरेख डिझाइन करण्याची विंडो बंद होत आहे. जर OpenAI च्या स्वतंत्र मूल्यांकनकर्त्यांची भरती वास्तविक प्रवेश आणि वास्तविक स्वातंत्र्यासह ऑडिटर्सची निर्मिती करत असेल, तर ते जगभरातील सीमावर्ती AI कसे शासित केले जाते याचे टेम्पलेट बनू शकते - एक खाजगी व्यवस्था जी वॉशिंग्टन, ब्रुसेल्स आणि इतर ठिकाणचे कायदेकर्ते आतापर्यंत स्वत: ला तयार करण्यात अयशस्वी झाले आहेत. जर ते एनडीएशी संलग्न सल्लागार तयार करते, तर ते संशयितांच्या सर्वात वाईट वाचनाची पुष्टी करेल.

कोणत्याही प्रकारे, ओपनएआय सर्वात विश्वासार्ह देखरेख व्यवस्था कोण प्रस्तावित करू शकते यावर मानववंशशास्त्राशी स्पर्धा करत आहे ही वस्तुस्थिती नवीन आहे. एक वर्षापूर्वी, प्रयोगशाळा मुख्यत्वे विरोधक नियमनात एकत्र आल्या होत्या. आता त्यांची व्याख्या करण्याची शर्यत सुरू आहे.

---

AI च्या पुढे रहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक एआय बातम्या वाचा →