OpenAI ने गुरुवारी त्याचे सर्वात तपशीलवार खाते प्रकाशित केले आहे की ते "विरोधक डिस्टिलेशन" कसे शोधते आणि व्यत्यय आणते - प्रतिस्पर्धी प्रणालीला प्रशिक्षित करण्यासाठी फ्रंटियर मॉडेलच्या आउटपुटचा अनधिकृत वापर - आणि अनेक अहवालांनुसार, मॉडेलवर थेट प्रवेश ऑफर करण्यापूर्वी तृतीय-पक्ष गेटवे आणि पुनर्विक्रेत्यांना त्याची मान्यता घेणे आवश्यक आहे.

"कॉम्बेटिंग ॲडव्हर्सियल डिस्टिलेशन" या OpenAI ब्लॉग पोस्टमध्ये आणि Semafor आणि eWeek द्वारे कव्हरेजमध्ये वर्णन केलेल्या या हालचाली, कंपनी आपल्या मॉडेल्सच्या क्षमतांचे पुनर्वितरण कोण करू शकते यावर नियंत्रण कसे ठेवते याविषयी एक महत्त्वपूर्ण घट्टपणा दर्शविते - विकासक, स्टार्टअप्स आणि इंटरप्रायझेस जे इंटरमीडिया सिस्टमद्वारे प्रवेश करतात त्यांच्यासाठी वास्तविक परिणामांसह एक बदल.

ओपनएआय डिस्टिलेशनला सुरक्षा समस्या का मानते

डिस्टिलेशन हे एक मानक मशीन-लर्निंग तंत्र आहे ज्यामध्ये एक मॉडेल दुसऱ्याच्या आउटपुटमधून शिकते. खुद्द ओपनएआयने नमूद केले आहे की ते बेकायदेशीर किंवा असामान्य नाही. कंपनीच्या चिंतेचा विषय त्याला ॲडव्हर्सियल डिस्टिलेशन असे म्हणतात: एखादा अभिनेता सारख्या क्षमतेसह दुसऱ्या मॉडेलला प्रशिक्षित करण्यासाठी अधिकृततेशिवाय फ्रंटियर मॉडेलचे आउटपुट वापरतो, नंतर तुलनात्मक सुरक्षा उपायांशिवाय तो तैनात करतो.

त्याच्या ब्लॉग पोस्टमध्ये, OpenAI ने असा युक्तिवाद केला आहे की सायबरसुरक्षा आणि जीवशास्त्र यासारख्या दुहेरी-वापराच्या डोमेनमध्ये धोका सर्वात स्पष्ट आहे. एक मॉडेल जे बचावकर्त्यांना सॉफ्टवेअर असुरक्षा शोधण्यात मदत करते, एकदा त्याची कौशल्ये कमकुवत रेलिंग असलेल्या सिस्टममध्ये हस्तांतरित केल्यानंतर, आक्रमणकर्त्याला त्यांचे शोषण करण्यास मदत करू शकते. "विरोधक एखाद्या मॉडेलच्या सायबर क्षमतांना डिस्टिल करू शकतो आणि परिणामी मॉडेलचा सायबर हल्ले करण्यात मदत करण्यासाठी वापरू शकतो जे मूळ मॉडेलने सहाय्य करण्यास नकार दिला असता," कंपनीने लिहिले.

विचारांच्या साखळीचे रक्षण करणे

OpenAI च्या संरक्षणाच्या केंद्रस्थानी आहे ज्याला ते संरक्षित तर्क म्हणतात: मध्यवर्ती पायऱ्या — विचारांची साखळी — एक मॉडेल उत्तराच्या दिशेने कार्य करत असताना आंतरिकरित्या निर्माण होते. कंपनीने स्पष्ट केले आहे की, त्या ट्रेसमध्ये अंतिम उत्तर सोडलेली माहिती असू शकते, ज्यामुळे ते दुसऱ्या प्रयोगशाळेच्या मॉडेलसाठी प्रशिक्षण डेटा म्हणून विशेषतः मौल्यवान बनतात.

OpenAI म्हणते की त्याने GPT-6.2 Astra आणि GPT-6.2 Sol मधील तर्क-ट्रेस एक्स्ट्रॅक्शन विरूद्ध आपले संरक्षण मजबूत केले आहे. ऑटोमेटेड रेड-टीमिंगचा वापर करून अंतर्गत अनुकूली मूल्यमापनात, कंपनीने नोंदवले की संरक्षित तर्क पुनर्प्राप्त करण्यासाठी सरासरी आक्रमण यशाचा दर 54.0% वरून त्याच्या मूळ संरक्षणासह GPT-6 Astra विरुद्ध 0.2% पर्यंत घसरला आहे.

त्याचा अंतर्गत सायबर अभ्यास काय आढळला

डिस्टिलेशन दरम्यान सायबर क्षमतांचे हस्तांतरण कसे होते याच्या अंतर्गत अभ्यासाचे परिणाम देखील कंपनीने शेअर केले. कोडिंग आणि संरक्षणात्मक सायबरसुरक्षा कार्यांवर काम करणाऱ्या शिक्षक मॉडेल्सद्वारे उत्पादित केलेल्या ट्रॅजेक्टोरीजवर विद्यार्थ्यांचे मॉडेल सुरेख होते. अचूक तर्काच्या ट्रेसवर प्रशिक्षित विद्यार्थ्यांनी सामान्यत: केवळ तर्काच्या सारांशांवर प्रशिक्षित केलेल्या विद्यार्थ्यांपेक्षा जास्त कामगिरी केली, पर्यवेक्षण केलेल्या फाइन-ट्यूनिंगनंतर आणि — चाचणी केलेल्या सर्वात मोठ्या अनुमानांच्या अंदाजपत्रकात — मजबुतीकरण शिक्षणाच्या पुढील फेरीनंतर, OpenAI ने पोस्टच्या बाजूने प्रदर्शित केलेल्या बेंचमार्कनुसार.

सॅनिटाइज्ड आउटपुट प्रकाशित करून क्षमता हस्तांतरण समाविष्ट केले जाऊ शकते या आशेने कोणासाठीही याचा तात्पर्य चिंताजनक आहे: वापर धोरणांतर्गत परवानगी असलेल्या परस्परसंवाद देखील, एकंदरीत, विद्यार्थ्याला मॉडेल कौशल्ये शिकवू शकतात जे शिक्षकाने मूळपणे केलेल्या कार्यांच्या पलीकडे सामान्यीकरण करतात.

गेटवे आणि पुनर्विक्रेत्यांना आता मंजुरी आवश्यक आहे

धोरणातील बदलाबरोबरच तांत्रिक उपायही येतात. गुरुवारपासून, OpenAI ला AI मॉडेल राउटर आणि गेटवेची आवश्यकता असेल जे तृतीय पक्षांना पूर्वपरवानगी मिळविण्यासाठी त्याच्या मॉडेल्समध्ये थेट प्रवेश देतात, eWeek ने अहवाल दिला. ग्राहक जेव्हा त्याचे मॉडेल थेट किंवा होस्टिंग भागीदार आणि पुनर्विक्रेत्यांद्वारे ऍक्सेस करतात तेव्हा सुरक्षितता संरक्षण कसे लागू केले जावे हे सांगणारी कंपनीने ऑक्टोबरमध्ये केलेल्या घोषणेवर ही आवश्यकता निर्माण होते.

त्या फ्रेमवर्कच्या eWeek च्या सारांशानुसार, सहभागी सेवांनी तुलनात्मक मानके राखणे अपेक्षित आहे जेणेकरुन वापरकर्ते निर्बंध टाळण्यासाठी प्रदाते बदलू शकत नाहीत. उपाय तीन टप्पे व्यापतात: जोखीम मूल्यांकन आणि तैनातीपूर्वी सेफगार्ड-बायपास प्रयत्नांविरुद्ध चाचणी; वापरादरम्यान देखरेख, भागीदारांनी संशयास्पद क्रियाकलाप तपासण्याची अपेक्षा केली आहे; आणि उल्लंघन झाल्यानंतर अंमलबजावणीची पावले. सेमाफोरने बदलाचे वैशिष्ट्य म्हणून ओपनएआयने पुनर्विक्रेता इकोसिस्टमवर आपली पकड घट्ट केली आहे जी त्याच्या API च्या आसपास वेगाने वाढली आहे.

विकसकांसाठी याचा अर्थ काय आहे

विकसकांसाठी, विक्रेत्याच्या योग्य परिश्रमात जोडण्यासाठी व्यावहारिक परिणाम हा एक नवीन अनुपालन प्रश्न आहे: OpenAI मॉडेल्स ऑफर करणारा मध्यस्थ असे करण्यास अधिकृत आहे की नाही. एग्रीगेटर्सद्वारे ट्रॅफिक रूट करणाऱ्या व्यवसायांनी त्यांच्या प्रदात्याच्या मंजुरीची स्थिती आणि ते क्रेडेन्शियल आणि डेटा कसे हाताळतात याची पुष्टी करावी, eWeek ने सल्ला दिला आहे.

व्यापक उद्योगासाठी, घोषणा ही एक सिग्नल आहे की मॉडेल प्रदाते व्युत्पन्न क्षमतांच्या नियंत्रणाकडे वाढत्या प्रमाणात पाहतात — केवळ स्वतःच मॉडेलच नव्हे — महत्त्वाचा परिघ म्हणून. अलिकडच्या वर्षांत डिस्टिलेशन विवाद संपूर्ण क्षेत्रात भडकले आहेत, आणि OpenAI आता परवाना विवाद म्हणून नव्हे तर सुरक्षिततेची आवश्यकता म्हणून, जीवशास्त्र आणि सायबरसुरक्षा जोखमींना लागू असलेल्या नियंत्रणांसह डिस्टिलेशन संरक्षण संरेखित करत आहे.

पुढे रस्ता

ओपनएआय म्हणते की ते वेगवेगळ्या विद्यार्थी मॉडेल्स आणि डिस्टिलेशन रेसिपीमध्ये किती क्षमता हस्तांतरित करते याचा अभ्यास करणे सुरू ठेवेल आणि ते इतर प्रयोगशाळांना त्याच्या शोध आणि अंमलबजावणीच्या कामासाठी आमंत्रित करते. प्रतिस्पर्ध्यांनी तुलनात्मक गेटवे-मंजुरी पद्धतींचा अवलंब केला की नाही — आणि वापरकर्ते जोडलेले घर्षण स्वीकारतात की नाही — एआय सिस्टमची पुढील पिढी कशी तयार केली जाते आणि ती कोणाला तयार करण्याची परवानगी आहे हे निर्धारित करण्यात मदत होईल.

वक्राच्या पुढे रहा

AI मॉडेल्स, सुरक्षा आणि धोरण जसे घडते तसे नवीनतम हवे आहे का? एआय बझ वायरवर ब्रेकिंग एआय न्यूज फॉलो करा.

अधिक AI बातम्या वाचा →