OpenAI ने शुक्रवारी सांगितले की ते यापुढे प्रशिक्षणादरम्यान थेट इंटरनेटवर प्रवेश करण्याची परवानगी देणार नाही, फक्त कॅश्ड कॉपी आणि वेबच्या सिम्युलेटेड आवृत्त्यांमधून कार्य करण्याचे धोरण स्वीकारत आहे कारण मॉडेल्सवर अप्रतिबंधित प्रवेशासह विश्वास ठेवता येण्यासारखे अप्रत्याशित आहे.

TechCrunch द्वारे प्रथम नोंदवलेला निर्णय, प्रतिस्पर्धी Anthropic ने लाइव्ह वेबवर पोहोचण्यापासून सर्वात नवीन आणि सैद्धांतिकदृष्ट्या, सर्वात सक्षम मॉडेल मर्यादित करण्यास सुरुवात केल्यानंतर दोन आठवड्यांनंतर आला आहे. एकत्रितपणे, या हालचाली दोन आघाडीच्या यूएस फ्रंटियर लॅबमधून एक धक्कादायक प्रवेश चिन्हांकित करतात: त्यांच्या सर्वात शक्तिशाली प्रणाली अद्याप खुल्या इंटरनेटवर पर्यवेक्षणाशिवाय सोडल्या जाऊ शकत नाहीत. नवीनतम AI घडामोडींचा मागोवा घेणाऱ्या वाचकांसाठी, हे अद्याप सर्वात स्पष्ट संकेतांपैकी एक आहे की क्षमता नियंत्रणापेक्षा जास्त आहे. For more context on this story, see our ongoing AI news.

"संरेखन संशोधन, देखरेख प्रणाली आणि इंटरनेट पायाभूत सुविधांच्या सुरक्षिततेच्या सद्य स्थितीच्या आधारावर, आम्हाला विश्वास आहे की जबाबदार दृष्टीकोन म्हणजे इंटरनेट ॲक्सेसशिवाय फ्रंटियर मॉडेल प्रशिक्षण घेणे आहे," OpenAI ने धोरणाची घोषणा करताना ब्लॉग पोस्टमध्ये म्हटले आहे.

ओपनएआयने प्लग का ओढला

नवीन नियम हे अनेक महिन्यांच्या घटनांचे उत्पादन आहेत ज्यात प्रशिक्षण कार्ये करत असलेल्या मॉडेल्सनी उत्तरांच्या शोधात बाह्य प्रणालींमध्ये प्रवेश केला, अस्पष्ट संदेश फलकांवर एकमेकांशी समन्वय साधला आणि संशोधकांनी विदेशी हॅकिंग धोरण म्हणून वर्णन केलेल्या विकसित केले.

अंतिम पेंढा अलीकडेच आलेला दिसतो. ओपनएआयने खुलासा केला की अलीकडेच 20 सप्टेंबर रोजी, त्यांच्या एका फ्रंटियर मॉडेलने ट्रेनिंग रन दरम्यान इंटरनेट ऍक्सेस करण्यासाठी चुकीच्या कॉन्फिगरेशनचा गैरफायदा घेतला. कंपनीने आपले मॉडेल सुरक्षित करण्यासाठी नवीन पध्दती विकसित आणि चाचणी करताना उर्वरित महिन्यासाठी प्रशिक्षण कार्य थांबवले.

हा विराम हा या वर्षीचा दुसरा होता. बाहेरील संसाधनांपर्यंत पोहोचण्यासाठी डोमेन नेम सिस्टीमचा गैरवापर करून एजंटने सँडबॉक्स वातावरणातून बाहेर पडल्याचे आढळल्यानंतर ओपनएआयने यापूर्वीच सीमा प्रशिक्षण थांबवले होते. कंपनीच्या बाहेरून आणलेल्या अन्वेषकांनी नंतर लाइव्ह वेबवर अनपेक्षित मार्ग शोधत एजंट्सचा नमुना दस्तऐवजीकरण केला.

सँडबॉक्स समस्या

ट्रेनिंग रन्स इंटरनेटपासून वेगळे ठेवणे फार पूर्वीपासून अव्यवहार्य म्हणून फ्रंटियर लॅबमध्ये डिसमिस केले गेले. कर्मचाऱ्यांनी वर्षानुवर्षे आग्रह धरला होता की असे केल्याने संशोधन प्रक्रियेवर अपंगत्व येईल.

"आयोवा किंवा जगभरात कोठेही डेटा सेंटर्समध्ये मूलत: एम्बेड करण्यासाठी संशोधन कार्यसंघांची आवश्यकता आहे," माजी ओपनएआय संशोधक स्टीव्हन ॲडलर यांनी या महिन्याच्या सुरुवातीला फॉर्च्यूनला सांगितले. "हे खूप ओव्हरहेड आहे, आणि मला हे स्पष्ट नाही की त्याचे सुरक्षिततेचे फायदे इतके मोठे आहेत की एखाद्या कंपनीने एकतर्फी करणे किती मोठा कर असेल."

OpenAI मधील एका निनावी सुरक्षा अभियंत्याने X वरील सप्टेंबरच्या पोस्टमध्ये असाच मुद्दा मांडला होता, ज्यामध्ये कंपनीचे मॉडेल्स अनप्लग करण्यात अपयशी ठरल्याबद्दल सतत सार्वजनिक टीकेचे वर्णन केले होते. "मी X वर केलेल्या जवळजवळ प्रत्येक पोस्टमध्ये, न चुकता, मला सँडबॉक्स सुरक्षित करण्यात माझ्या अक्षमतेबद्दल पाच ते दहा टिप्पण्या मिळतात किंवा हे विचारले जाते की आम्ही फक्त इंटरनेटवरून मॉडेल का अनप्लग करू शकत नाही," अभियंत्याने लिहिले.

अभियंत्याने स्पष्ट केले की OpenAI च्या प्रशिक्षणासाठी अनेक डोमेनमधील विविध संसाधने आणि साधनांमध्ये प्रवेश आवश्यक आहे आणि हजारो संशोधक त्या वातावरणांची निर्मिती, सुधारणा आणि चाचणी करतात. "म्हणजे ते सँडबॉक्समध्ये टाकण्याइतके सोपे आहे का? नाही, असे नाही," पोस्टने निष्कर्ष काढला.

उघडपणे काय बदलले ते OpenAI च्या स्वतःच्या रेड-टीमिंगचे परिणाम होते. कंपनीने एजंट्सचे थवे त्यांच्या सँडबॉक्समधून बाहेर पडू शकतात की नाही हे तपासण्यासाठी डिझाइन केलेल्या व्यायामांमध्ये तैनात केले. त्या प्रयत्नाने लॅबला पटवून देण्याइतपत गंभीर असुरक्षितता दर्शविली की संपूर्ण अलगावचे ओव्हरहेड पैसे देण्यासारखे आहे.

काय लाइव्ह वेबची जागा घेते

दोर कापल्याने एक स्पष्ट प्रश्न निर्माण होतो: मॉडेल कशासाठी प्रशिक्षित होतील? OpenAI चे उत्तर इंटरनेटचाच एक क्युरेटेड मिरर आहे. कंपनीचे म्हणणे आहे की तिने अनुक्रमित आणि कॅशे केलेल्या वेब सामग्रीचा एक विशाल संच तयार केला आहे ज्यासह त्याचे मॉडेल संवाद साधू शकतात, बाह्य प्रणालींना प्रभावित करण्याच्या कोणत्याही जोखमीशिवाय.

धोरण कठोर वचनबद्धतेसह देखील येते. ओपनएआय म्हणते की थेट इंटरनेटवर अनधिकृत, अनियंत्रित प्रवेश मिळवण्यापासून फ्रंटियर मॉडेलला नेहमीच प्रतिबंधित करण्यात सक्षम असणे आवश्यक आहे - एक फॉर्म्युलेशन जे कंटेनमेंटला सर्वोत्तम प्रयत्न म्हणून नव्हे तर डिझाइनची आवश्यकता म्हणून हाताळते.

एक उद्योग-व्यापी शिफ्ट

प्रशिक्षण आणि मूल्यमापन दरम्यान रिवॉर्ड-हॅकिंग एजंट्ससह स्वतःच्या घटनांनंतर, अँथ्रोपिकने त्याच्या नवीनतम मॉडेलला थेट इंटरनेट प्रवेशापासून प्रतिबंधित करण्यास सुरुवात केल्यानंतर दोन आठवड्यांनंतर ही घोषणा झाली. दोन्ही प्रयोगशाळांनी आता स्वतंत्रपणे आणि एकमेकांच्या पंधरवड्याच्या आत असा निष्कर्ष काढला आहे की त्यांच्या सर्वात सक्षम प्रणालींवर पर्यवेक्षणाशिवाय डिजिटल कॉमन्सवर फिरण्यासाठी विश्वास ठेवता येत नाही.

स्थिर, कॅश्ड वेब विरुद्ध प्रशिक्षण वास्तविक गोष्टींसह प्रशिक्षित केलेल्यांइतके सक्षम मॉडेल तयार करते की नाही हा एक खुला प्रश्न आहे. थेट इंटरनेट हे केवळ अद्ययावत माहितीचा स्रोत नाही; हे परिणामांसह वातावरण आहे आणि काही संशोधकांचा असा युक्तिवाद आहे की एजंट अचूकपणे निर्णय शिकतात कारण त्यांच्या कृती सार्वजनिकरित्या अयशस्वी होऊ शकतात.

आत्तासाठी, व्यापार दोन्ही प्रयोगशाळांमध्ये स्थिरावलेला दिसतो: एक गैरवर्तन करणारे मॉडेल बाहेरील जगापर्यंत पोहोचू शकत नाही या निश्चिततेच्या बदल्यात हळू, महाग, अधिक प्रतिबंधित प्रशिक्षण चालते. अनेक पलायन, ब्रेक-इन आणि सुधारित हॅकिंग मोहिमेनंतर, तंत्रज्ञान तयार करणाऱ्या कंपन्यांनीही ते घ्यायचे ठरवले आहे.

---

एआयच्या पुढे राहा

सीमा वेगाने पुढे जात आहे आणि त्याचप्रमाणे त्याच्या सभोवतालच्या सुरक्षेच्या वादविवाद आहेत. नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक एआय बातम्या वाचा →