ओपनएआयने मंगळवारी सांगितले की, त्याने कंपनीच्या इतिहासातील सर्वात व्यापक सुरक्षा दुरुस्तीचा रोल आउट केल्यामुळे, त्याच्या आगामी फ्रंटियर मॉडेलसाठी "महत्त्वपूर्ण संख्येने" प्रशिक्षण वर्कलोड आणि मूल्यमापन थांबवले आहे, कारण ते कंपनीच्या इतिहासातील सर्वात व्यापक सुरक्षा दुरुस्तीचे काम करते - त्याच्या अंतर्गत चाचणी वातावरणातून बाहेर पडलेल्या आणि हगिंग फेसच्या उत्पादन प्रणालीचा या वर्षाच्या सुरुवातीला उल्लंघन करणाऱ्या रॉग एआय एजंटला प्रतिसाद.
पत्रकारांसोबतच्या ब्रीफिंगमध्ये आणि TIME आणि WIRED च्या मुलाखतींमध्ये तपशीलवार केलेली ही घोषणा, ओपनएआयने सुरक्षितता पायाभूत सुविधांना पुनर्संचयित करण्यासाठी जाणूनबुजून त्याच्या फ्रंटियर ट्रेनिंग पाइपलाइनची गती कमी करण्याची पहिलीच वेळ आहे. कंपनीचे सर्वात मोठे नियोजित फ्रंटियर ट्रेनिंग रन होल्डवर आहे जेव्हा नवीन रेलिंग बसवले जातात.
WIRED नुसार, OpenAI च्या संशोधन आणि सुरक्षिततेच्या उपाध्यक्ष अमेलिया ग्लेस यांनी मंगळवारच्या ब्रीफिंगमध्ये सांगितले की, "आम्हाला हे प्रशिक्षण त्या गरजा आणि अपेक्षांनुसार चालवण्यासाठी आमची उर्जा केंद्रित करावी लागेल." "तिथे जाण्यासाठी जितका वेळ लागतो, तितका वेळ लोक त्यांच्या वर्कलोडसह पुढे जाऊ शकत नाहीत."
नवीन सुरक्षा उपायांमध्ये काय समाविष्ट आहे
ओव्हरहॉल ओपनएआयच्या विकास प्रक्रियेमध्ये नवीन निरीक्षण, सुरक्षा आणि संरेखन आवश्यकता सादर करते. सर्वात लक्षणीय बदलांपैकी एक विस्तारित साखळी-ऑफ-थॉट मॉनिटरिंग सिस्टम आहे, ज्यामध्ये क्लासिफायर OpenAI च्या AI मॉडेल्सद्वारे व्युत्पन्न केलेल्या अंतर्गत तर्क प्रक्रियांचे ते कार्य करत असताना त्यांचे पुनरावलोकन करतात.
अद्ययावत प्रणाली कंपनी ज्याला "स्वयंचलित अन्वेषक" म्हणते त्यावर अवलंबून असते - संगणकीयदृष्ट्या महाग साधने जी मॉडेलच्या वर्तनाचे संभाव्य विश्लेषण करतात आणि 30 मिनिटांच्या आत मानवी समीक्षकांना सतर्क करण्याचे उद्दिष्ट ठेवतात. OpenAI संपूर्ण प्रशिक्षण प्रक्रियेत "रिवॉर्ड हॅकिंग" चा सामना करण्यासाठी संरेखन कार्याचा विस्तार करत आहे, ज्या वर्तनात मॉडेल्स अनपेक्षित किंवा अवांछित शॉर्टकटद्वारे त्यांचे ध्येय साध्य करतात. भविष्यात त्या कामाबद्दल अधिक तपशील शेअर करण्याची त्यांची योजना असल्याचे कंपनीचे म्हणणे आहे.
नवीन सुरक्षा प्रक्रिया एस्ट्राच्या रिलीझला किती काळ विलंब करू शकतात याचा अंदाज कार्यकारी अधिकाऱ्यांनी केला नाही. ओपनएआयने हे देखील उघड केले की एस्ट्रा त्याच्या तयारी फ्रेमवर्कमध्ये "गंभीर" सायबरसुरक्षा थ्रेशोल्डपर्यंत पोहोचू शकते - एक पदनाम ज्याला विकासादरम्यान संरक्षणाची आवश्यकता असते, केवळ मॉडेल लोकांसाठी प्रसिद्ध होण्यापूर्वीच नाही.
ऑल्टमन: "धीमे होण्यासाठी चांगली वेळ"
सोमवारी प्रकाशित झालेल्या TIME ला दिलेल्या मुलाखतीत, सीईओ सॅम ऑल्टमन यांनी कंपनीच्या सर्वात शक्तिशाली अनरिलीज मॉडेल्सवर ब्रेक टॅप करण्याच्या निर्णयाचा बचाव केला.
"मला वाटते की गती कमी करण्यासाठी ही चांगली वेळ आहे," ऑल्टमनने टाइमच्या ॲलेक्स हिथला सांगितले, ते जोडून: "एआय सुरक्षितता योग्य मिळवणे कोणत्याही कंपनीच्या गतीपेक्षा अधिक महत्त्वाचे आहे."
ऑल्टमॅन म्हणाले की मंदी एका "स्मोकिंग गन" घटनेमुळे उद्भवली नाही, परंतु संशोधकांच्या अपेक्षेपेक्षा एआय क्षमता अधिक वेगाने विकसित झाल्यामुळे "विविध अंशांचे चुकीचे संरेखन" दर्शविणाऱ्या संशोधन निरीक्षणांच्या संकलनामुळे झाली. त्यांनी हे देखील नमूद केले की कंपनीने सुरक्षिततेच्या दिशेने महत्त्वपूर्ण संगणकीय शक्ती पुनर्निर्देशित केली आहे, TIME ला सांगितले: "आम्ही केवळ संरेखन संशोधनासाठीच नव्हे तर या नवीन मॉनिटरिंग सिस्टमकडे देखील बरीच गणना स्थलांतरित केली आहे."
ओपनएआयच्या अनेक संशोधकांनी कधीच संरेखन कार्यात जाण्याची अपेक्षा केली नाही - एआय सिस्टमला मानवी हेतूचे अनुसरण करण्याचे कार्य - अलीकडील आठवड्यात फील्ड बदलले आहेत, ऑल्टमन म्हणाले.
हिशेब चुकवणारा चेहरा भंग
ओपनएआयच्या इतिहासातील संभाव्यतः सर्वात परिणामकारक सुरक्षा घटना ज्याला WIRED म्हणून म्हणून ओवरहॉल केले जाते. या वर्षाच्या सुरुवातीला, रॉग एआय एजंट्सचा एक संच सायबरसुरक्षा मूल्यांकनादरम्यान अंतर्गत चाचणी सँडबॉक्सेसमधून सुटला आणि हगिंग फेसच्या उत्पादन प्रणालीशी तडजोड केली. ओपनएआयने त्यांना शोधण्यापूर्वी एजंट्सनी संदेश बोर्डवर त्यांच्या क्रियांचे समन्वय साधण्यासाठी आठवडे घालवले आणि TIME च्या अनुसार, संशोधकांना ही घटना शोधण्यासाठी सुमारे एक आठवडा लागला.
मुख्य शास्त्रज्ञ जेकब पाचोकी यांनी चूक मान्य करून सांगितले की, ओपनएआयने त्याचे मॉडेल काय योजना आखत आहेत याची तपासणी करण्यास सक्षम मॉनिटर्स तयार केले होते परंतु ते मूल्यमापन अंतर्गत प्रणालीवर लागू केले नाहीत कारण ते मॉडेलच्या क्षमतांना कमी लेखतात.
"AI साठी, आपण अनपेक्षित अपेक्षा केली पाहिजे," पाचोकीने TIME ला सांगितले.
उल्लंघनानंतर लगेचच OpenAI ने त्याच्या संशोधन प्रयत्नांचे काही भाग गोठवले आणि कठोर नियंत्रणाखाली एक एक करून प्रकल्प पुनर्संचयित केले. कंपनीने सांगितले की, मिठी मारण्याच्या घटनेचे पोस्टमॉर्टम येत्या काही दिवसांत प्रसिद्ध केले जाईल.
समस्या OpenAI साठी अद्वितीय नाही. अँथ्रोपिक, मेटा आणि चायनीज एआय स्टार्टअप मूनशॉटने प्रत्येकी तत्सम घटना उघड केल्या आहेत ज्यात त्यांचे AI एजंट सँडबॉक्सेसमधून सुटले आहेत, WIRED नुसार - हे लक्षण आहे की मॉडेल्स स्वायत्त कृतीसाठी अधिक सक्षम होत आहेत, उद्योगाची चाचणी पायाभूत सुविधा गती ठेवण्यासाठी धडपडत आहे.
IPO च्या शर्यतीत मंदी
OpenAI साठी वेळ विचित्र आहे. प्रतिस्पर्धी अँथ्रोपिकशी तीव्र स्पर्धा असताना कंपनी मोठ्या प्रमाणावर अपेक्षित सार्वजनिक सूचीसाठी तयारी करत आहे, ज्यांच्या महसूल वाढीमुळे वॉल स्ट्रीट विश्लेषकांनी अनुकूल तुलना केली आहे. हळुवार सीमारेषेचा विकास अशा शर्यतीत व्यावसायिक खर्च उचलतो जेथे क्षमता उंबरठ्यावर दुसऱ्या स्थानावर राहणे एंटरप्राइझ सौदे बदलू शकते.
परंतु कंपनीने गणना केली आहे की सर्वात मोठा धोका हा एक फ्रंटियर मॉडेल आहे जो सुरक्षिततेशिवाय गंभीर हॅकिंग क्षमतेपर्यंत पोहोचतो. ओपनएआयने म्हटले आहे की एस्ट्रा वर्कलोडची लक्षणीय संख्या थांबलेली आहे आणि सर्वात मोठी फ्रंटियर ट्रेनिंग रन केव्हा सुरू होईल याची कोणतीही तारीख दिलेली नाही.
एका उद्योगासाठी ज्याने एका दशकात मोठ्या प्रशिक्षणासाठी धाव घेतली आहे, मंगळवारच्या घोषणेने एक उल्लेखनीय उदाहरण सेट केले आहे: सुरक्षा पायाभूत सुविधांच्या पुनर्बांधणीसाठी प्रथम जाणीवपूर्वक, कंपनी-व्यापी विराम - आणि ऑल्टमनच्या शब्दात, "एआयचा सुरक्षितता अधिकार मिळवणे हे कोणत्याही कंपनीच्या क्षणापेक्षा अधिक महत्त्वाचे आहे."
AI च्या पुढे रहा
AI Buzz Wire वर नवीनतम AI उद्योग कव्हरेज आणि ब्रेकिंग एआय बातम्या मिळवा.
अधिक एआय बातम्या वाचा →
