PYMNTS की रिपोर्ट के अनुसार, कंपनी ने मंगलवार, 22 सितंबर को प्रकाशित एक ब्लॉग पोस्ट में कहा, OpenAI उन कंपनियों की संख्या बढ़ाने में मदद करने के लिए कई स्वतंत्र मूल्यांकनकर्ताओं के साथ बात कर रही है, जिनके पास फ्रंटियर AI सुरक्षा में विशेषज्ञता है और प्रभावी तृतीय-पक्ष मूल्यांकन प्रदान कर सकते हैं।

यह पोस्ट प्रभावी तृतीय-पक्ष निरीक्षण के लिए ओपनएआई की प्रस्तावित प्राथमिकताओं और सिद्धांतों को प्रस्तुत करती है - इसमें कहा गया है कि एक रूपरेखा सभी अग्रणी एआई प्रयोगशालाओं पर लागू होनी चाहिए क्योंकि वे तेजी से सक्षम मॉडलों को प्रशिक्षित, मूल्यांकन और तैनात करते हैं। यह घोषणा एआई सुरक्षा नीति के लिए असामान्य रूप से चार्ज किए गए महीने के बीच में हुई है, और इसे आलोचकों के लिए रियायत और सरकारों द्वारा नियमों को लिखने से पहले उन्हें आकार देने का प्रयास दोनों के रूप में पढ़ा जाता है। [ब्रेकिंग एआई न्यूज] (https://aibuzzwire.news) को फॉलो करने वाले किसी भी व्यक्ति के लिए, यह प्रयोगशालाओं, उनके आलोचकों और नियामकों के बीच एक सप्ताह तक चलने वाली प्रतियोगिता में नवीनतम कदम है, जो यह सत्यापित करता है कि फ्रंटियर मॉडल सुरक्षित हैं।

OpenAI क्या प्रस्ताव दे रहा है

पीवाईएमएनटीएस के अनुसार, ओपनएआई ने पोस्ट में कहा, "हम स्वतंत्र मूल्यांकनकर्ताओं का समर्थन करने और भविष्य के कानूनों और निजी प्रशासन पहलों के माध्यम से प्रभावी तृतीय-पक्ष मूल्यांकन के लिए स्पष्ट, साझा अंतरराष्ट्रीय मानकों की स्थापना के लिए प्रतिबद्ध हैं।"

ओपनएआई द्वारा वर्णित मुख्य समस्या बाजार की विफलता है: फ्रंटियर मॉडल का ऑडिट करने के लिए तकनीकी गहराई वाले बहुत कम संगठन हैं। एक सार्थक सुरक्षा मूल्यांकन के लिए अप्रकाशित प्रणालियों तक पहुंच, साइबर सुरक्षा से लेकर जैव सुरक्षा तक के क्षेत्रों में विशेषज्ञता और अवांछित निष्कर्षों को प्रकाशित करने के लिए संस्थागत स्वतंत्रता की आवश्यकता होती है। एकल विशेषाधिकार प्राप्त ऑडिटर के बजाय कई मूल्यांकनकर्ताओं की भर्ती और समर्थन करके, ओपनएआई का कहना है कि वह एक ऐसा पारिस्थितिकी तंत्र बनाना चाहता है जहां तीसरे पक्ष का मूल्यांकन फ्रंटियर सिस्टम को तैनात करने का एक नियमित हिस्सा है - एक बार का जनसंपर्क अभ्यास नहीं।

कंपनी ने उन मूल्यांकनकर्ताओं का नाम नहीं बताया जिनके साथ वह बात कर रही है, और यह देखा जाना बाकी है कि क्या परिणामी व्यवस्था मूल्यांकनकर्ताओं को पहुंच, वित्त पोषण स्वतंत्रता और प्रकाशन अधिकार प्रदान करेगी जिन्हें सुरक्षा शोधकर्ता सार्थक मानते हैं।

एआई नीति पर व्हिपलैश का एक सप्ताह

यह प्रस्ताव नीतिगत विकास के तीव्र अनुक्रम के बीच आया है जिसने सितंबर की एआई बहस को परिभाषित किया है:

  • सोमवार, 21 सितंबर: ओपनएआई ने संयुक्त राज्य अमेरिका से फ्रंटियर एआई के लिए वैश्विक तकनीकी मानकों को विकसित करने के लिए एक अंतरराष्ट्रीय प्रयास का नेतृत्व करने का आह्वान किया - जिसमें पुनरावर्ती आत्म-सुधार भी शामिल है, जिस बिंदु पर एआई सिस्टम खुद को बेहतर बनाते हैं। कंपनी ने चेतावनी दी कि पूरी तरह से स्वायत्त एआई विकास मनुष्यों की इसे समझने और नियंत्रित करने की क्षमता से आगे निकल सकता है, और कहा कि आगे बढ़ना है या नहीं और कैसे आगे बढ़ना है, इसके बारे में निर्णय अभी लेने की जरूरत है।
  • शुक्रवार, 18 सितंबर: कैलिफोर्निया के गवर्नर गेविन न्यूसोम ने राज्य के एआई सुरक्षा कानूनों को मजबूत करने के लिए राष्ट्रीय विशेषज्ञों को बुलाने के एक कार्यकारी आदेश पर हस्ताक्षर किए, जिसका स्पष्ट उद्देश्य एआई सिस्टम में सुरक्षा और सुरक्षा जोखिमों के नए तीसरे पक्ष के निरीक्षण के कार्यान्वयन में तेजी लाना है।
  • शनिवार, 19 सितंबर: राष्ट्रपति डोनाल्ड ट्रम्प ने ट्रुथ सोशल पोस्ट में उद्योग की सुरक्षा चिंताओं को खारिज करते हुए लिखा: "हम किसी भी तरह से इस अविश्वसनीय उद्योग के विकास में बाधा या बाधा नहीं डालेंगे। एआई अगली औद्योगिक क्रांति है, या इंटरनेट, लेकिन यह और भी बड़ी और अधिक प्रभावशाली होगी, संभवतः हमारे देश की जीडीपी का 25% तक।"

जैसा कि हमने इस सप्ताह की शुरुआत में रिपोर्ट किया था, ओपनएआई के अमेरिकी नेतृत्व वाले मानकों के प्रस्ताव ने एक ऐसी कंपनी के लिए एक महत्वपूर्ण बदलाव को चिह्नित किया है जिसने वर्षों से बाध्यकारी निरीक्षण का विरोध किया है - और नए तृतीय-पक्ष मूल्यांकन सिद्धांत निजी प्रशासन के मोर्चे पर उस स्थिति का विस्तार करते हैं।

स्वतंत्रता की समस्या

ओपनएआई का बाहरी निगरानीकर्ताओं को अपनाना इसके मुख्य प्रतिद्वंद्वी के समानांतर प्रस्ताव का अनुसरण करता है। लगभग एक सप्ताह पहले, एंथ्रोपिक के सीईओ डारियो अमोदेई ने एक निबंध प्रकाशित किया था, जिसमें अग्रणी एआई कंपनियों के अंदर अंतर्निहित स्वतंत्र मूल्यांकनकर्ताओं, लोकतांत्रिक देशों में कंपनियों के बीच समन्वय और अंततः एक अंतरराष्ट्रीय समझौते का प्रस्ताव रखा गया था, जिसमें चीन भी शामिल था।

दोनों प्रस्तावों पर विशेषज्ञों ने तत्काल संदेह जताया है। सीएनबीसी ने बताया कि 100 से अधिक एआई विशेषज्ञों का एक गठबंधन एंथ्रोपिक, ओपनएआई और मूल्यांकन करने वाली अन्य फाउंडेशन मॉडल प्रयोगशालाओं से स्वतंत्रता और पारदर्शिता का आग्रह कर रहा है, यह चेतावनी देते हुए कि जिन मूल्यांकनकर्ताओं का वे ऑडिट करते हैं, वे जिन कंपनियों में शामिल हैं - या उनके द्वारा भुगतान किया जाता है, उन्हें अपरिहार्य हितों के टकराव का सामना करना पड़ता है। एआई अग्रणी जेफ्री हिंटन द्वारा समर्थित वॉचडॉग ने दोनों कंपनियों पर उनकी सुरक्षा योजनाओं के विवरण पर दबाव डाला है, और टिप्पणीकारों ने एआई सुरक्षा मूल्यांकन संगठनों और प्रयोगशालाओं के बीच घूमने वाले दरवाजे को चिह्नित किया है: सुरक्षा होमवर्क को ग्रेड करने वाले लोग भी इसे लिखने वाले लोग हो सकते हैं।

यह तनाव बहस का मूल है जिसे OpenAI की नई पोस्ट कम करने का प्रयास करती है। कंपनी का उत्तर - अधिक मूल्यांकनकर्ता, साझा अंतर्राष्ट्रीय मानक, और भविष्य के कानूनों और निजी पहल दोनों के माध्यम से लागू निगरानी - एक रूपरेखा है, अभी तक कोई गारंटी नहीं है। आलोचकों का कहना है कि नियमों का प्रस्ताव करने वाली प्रयोगशालाएं वही प्रयोगशालाएं हैं जो उनके अधीन हैं, और स्व-आकार वाले शासन ने ऐतिहासिक रूप से आकार देने वाली कंपनियों का पक्ष लिया है।

यह क्यों मायने रखता है

अगले सीमांत मॉडल पहले से ही प्रशिक्षण में हैं, और तैनाती से पहले डिजाइनिंग निरीक्षण की खिड़की बंद हो रही है। यदि ओपनएआई की स्वतंत्र मूल्यांकनकर्ताओं की भर्ती वास्तविक पहुंच और वास्तविक स्वतंत्रता के साथ लेखा परीक्षकों को तैयार करती है, तो यह इस बात का खाका बन सकता है कि दुनिया भर में फ्रंटियर एआई को कैसे नियंत्रित किया जाता है - एक निजी शासन जिसे वाशिंगटन, ब्रुसेल्स और अन्य जगहों पर कानून निर्माता अब तक खुद बनाने में विफल रहे हैं। यदि यह एनडीए के साथ संबद्ध परामर्श तैयार करता है, तो यह संशयवादियों की सबसे खराब रीडिंग की पुष्टि करेगा।

किसी भी तरह, यह तथ्य कि ओपनएआई एंथ्रोपिक के साथ प्रतिस्पर्धा कर रहा है कि कौन सबसे विश्वसनीय निरीक्षण व्यवस्था का प्रस्ताव कर सकता है, अपने आप में नया है। एक साल पहले, प्रयोगशालाएँ मुख्य रूप से विनियमन के विरोध में एकजुट हुई थीं। अब वे इसे परिभाषित करने की होड़ में हैं.

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →