OpenAI ने गुरुवार को अपना अब तक का सबसे विस्तृत विवरण प्रकाशित किया कि यह कैसे "प्रतिकूल आसवन" का पता लगाता है और उसे बाधित करता है - एक प्रतिस्पर्धी प्रणाली को प्रशिक्षित करने के लिए फ्रंटियर मॉडल के आउटपुट का अनधिकृत उपयोग - और, कई रिपोर्टों के अनुसार, अपने मॉडलों तक सीधी पहुंच की पेशकश करने से पहले तीसरे पक्ष के गेटवे और पुनर्विक्रेताओं को इसकी मंजूरी प्राप्त करने की आवश्यकता शुरू हो गई है।
ओपनएआई ब्लॉग पोस्ट में "कॉम्बैटिंग एडवरसैरियल डिस्टिलेशन" शीर्षक से वर्णित और सेमाफोर और ईवीक द्वारा कवरेज में किए गए कदम, एक महत्वपूर्ण सख्ती को दर्शाते हैं कि कंपनी कैसे नियंत्रित करती है कि कौन अपने मॉडल की क्षमताओं को पुनर्वितरित कर सकता है - डेवलपर्स, स्टार्टअप और उद्यमों के लिए वास्तविक परिणामों के साथ एक बदलाव जो बिचौलियों के माध्यम से ओपनएआई सिस्टम तक पहुंचते हैं।
क्यों OpenAI आसवन को एक सुरक्षा समस्या मानता है
आसवन एक मानक मशीन-लर्निंग तकनीक है जिसमें एक मॉडल दूसरे के आउटपुट से सीखता है। OpenAI नोट करता है कि अपने आप में, यह न तो अवैध है और न ही असामान्य है। कंपनी की चिंता यह है कि इसे प्रतिकूल आसवन कहा जाता है: एक अभिनेता समान क्षमताओं वाले किसी अन्य मॉडल को प्रशिक्षित करने के लिए प्राधिकरण के बिना फ्रंटियर मॉडल के आउटपुट का उपयोग करता है, फिर तुलनीय सुरक्षा उपायों के बिना इसे तैनात करता है।
अपने ब्लॉग पोस्ट में, OpenAI का तर्क है कि साइबर सुरक्षा और जीव विज्ञान जैसे दोहरे उपयोग वाले डोमेन में जोखिम सबसे स्पष्ट है। एक मॉडल जो रक्षकों को सॉफ़्टवेयर कमजोरियों को ढूंढने में मदद करता है, एक बार उसके कौशल को कमजोर रेलिंग वाले सिस्टम में स्थानांतरित कर दिया जाता है, तो हमलावर को उनका फायदा उठाने में मदद मिल सकती है। कंपनी ने लिखा, "एक प्रतिद्वंद्वी किसी मॉडल की साइबर क्षमताओं को नष्ट कर सकता है और साइबर हमलों को अंजाम देने में मदद करने के लिए परिणामी मॉडल का उपयोग कर सकता है, जिसमें मूल मॉडल ने सहायता करने से इनकार कर दिया होगा।"
विचार श्रृंखला की रक्षा करना
ओपनएआई की रक्षा के केंद्र में वह है जिसे वह संरक्षित तर्क कहता है: मध्यवर्ती चरण - विचार की श्रृंखला - एक मॉडल उत्तर की ओर काम करते समय आंतरिक रूप से उत्पन्न होता है। कंपनी बताती है कि उन निशानों में अंतिम उत्तर द्वारा छोड़ी गई जानकारी शामिल हो सकती है, जो उन्हें किसी अन्य प्रयोगशाला के मॉडल के लिए प्रशिक्षण डेटा के रूप में विशेष रूप से मूल्यवान बनाती है।
ओपनएआई का कहना है कि उसने जीपीटी-6.2 एस्ट्रा और जीपीटी-6.2 सोल में रीजनिंग-ट्रेस निष्कर्षण के खिलाफ अपनी सुरक्षा को मजबूत किया है। स्वचालित रेड-टीमिंग का उपयोग करते हुए एक आंतरिक अनुकूली मूल्यांकन में, कंपनी ने बताया कि संरक्षित तर्क को पुनर्प्राप्त करने के लिए औसत हमले की सफलता दर अपने मूल सुरक्षा उपायों के साथ जीपीटी -6 एस्ट्रा के मुकाबले 54.0% से गिरकर अद्यतन सुरक्षा के साथ जीपीटी-6.2 एस्ट्रा के मुकाबले 0.2% हो गई।
इसके आंतरिक साइबर अध्ययन में क्या पाया गया
कंपनी ने एक आंतरिक अध्ययन के नतीजे भी साझा किए कि आसवन के दौरान साइबर क्षमताएं कैसे स्थानांतरित होती हैं। कोडिंग और रक्षात्मक साइबर सुरक्षा कार्यों पर काम करने वाले शिक्षक मॉडलों द्वारा निर्मित प्रक्षेप पथ पर छात्र मॉडल को ठीक किया गया था। पोस्ट के साथ प्रदर्शित बेंचमार्क ओपनएआई के अनुसार, सटीक तर्क के निशान पर प्रशिक्षित छात्र आम तौर पर पर्यवेक्षित फाइन-ट्यूनिंग के बाद और - परीक्षण किए गए सबसे बड़े अनुमान बजट पर - सुदृढीकरण सीखने के एक और दौर के बाद केवल तर्क सारांश पर प्रशिक्षित छात्रों से बेहतर प्रदर्शन करते हैं।
यह निहितार्थ उन लोगों के लिए गंभीर है जो यह उम्मीद कर रहे हैं कि क्षमता हस्तांतरण को स्वच्छ आउटपुट प्रकाशित करके शामिल किया जा सकता है: यहां तक कि उपयोग नीतियों के तहत अनुमत इंटरैक्शन भी, कुल मिलाकर, एक छात्र मॉडल कौशल सिखा सकते हैं जो शिक्षक द्वारा मूल रूप से किए गए कार्यों से परे सामान्यीकरण करते हैं।
गेटवे और पुनर्विक्रेताओं को अब अनुमोदन की आवश्यकता है
तकनीकी उपाय नीति परिवर्तन के साथ-साथ आते हैं। ईवीक की रिपोर्ट के अनुसार, गुरुवार से ओपनएआई को एआई मॉडल राउटर और गेटवे की आवश्यकता होगी जो पूर्व अनुमोदन प्राप्त करने के लिए तीसरे पक्ष को उसके मॉडल तक सीधी पहुंच प्रदान करते हैं। यह आवश्यकता कंपनी द्वारा अक्टूबर में की गई एक घोषणा पर आधारित है जिसमें बताया गया है कि जब ग्राहक सीधे या होस्टिंग भागीदारों और पुनर्विक्रेताओं के माध्यम से इसके मॉडल तक पहुंचते हैं तो सुरक्षा सुरक्षा कैसे लागू होनी चाहिए।
ईवीक के उस ढांचे के सारांश के अनुसार, भाग लेने वाली सेवाओं से तुलनीय मानकों को बनाए रखने की अपेक्षा की जाती है ताकि उपयोगकर्ता प्रतिबंधों से बचने के लिए प्रदाताओं को आसानी से न बदल सकें। उपाय तीन चरणों में फैले हुए हैं: तैनाती से पहले सुरक्षा-बाईपास प्रयासों के खिलाफ जोखिम मूल्यांकन और परीक्षण; उपयोग के दौरान निगरानी, भागीदारों से संदिग्ध गतिविधि की जांच करने की अपेक्षा की जाती है; और उल्लंघन होने के बाद प्रवर्तन कदम। Semafor ने इस बदलाव की विशेषता यह बताई कि OpenAI ने पुनर्विक्रेता पारिस्थितिकी तंत्र पर अपनी पकड़ मजबूत कर ली है जो इसके API के आसपास तेजी से विकसित हुआ है।
डेवलपर्स के लिए इसका क्या मतलब है
डेवलपर्स के लिए, व्यावहारिक प्रभाव विक्रेता के उचित परिश्रम में जोड़ने के लिए एक नया अनुपालन प्रश्न है: क्या ओपनएआई मॉडल की पेशकश करने वाला एक मध्यस्थ वास्तव में ऐसा करने के लिए अधिकृत है। ईवीक ने सलाह दी कि जो व्यवसाय एग्रीगेटर्स के माध्यम से ट्रैफ़िक रूट करते हैं, उन्हें अपने प्रदाता की अनुमोदन स्थिति की पुष्टि करनी चाहिए और यह क्रेडेंशियल्स और डेटा को कैसे संभालता है।
व्यापक उद्योग के लिए, घोषणा एक संकेत है कि मॉडल प्रदाता तेजी से व्युत्पन्न क्षमताओं के नियंत्रण को देखते हैं - न कि केवल स्वयं मॉडल - परिधि के रूप में जो मायने रखता है। हाल के वर्षों में आसवन विवाद पूरे क्षेत्र में बढ़ गए हैं, और ओपनएआई अब अपनी प्रतिक्रिया को लाइसेंसिंग विवाद के रूप में नहीं बल्कि एक सुरक्षा आवश्यकता के रूप में तैयार कर रहा है, आसवन सुरक्षा को उन नियंत्रणों के साथ संरेखित कर रहा है जो यह जीव विज्ञान और साइबर सुरक्षा जोखिमों पर लागू होता है।
आगे का रास्ता
ओपनएआई का कहना है कि वह यह अध्ययन करना जारी रखेगा कि विभिन्न छात्र मॉडलों और आसवन व्यंजनों में कितनी क्षमता स्थानांतरित होती है, और यह अन्य प्रयोगशालाओं को इसके पता लगाने और प्रवर्तन कार्य को आगे बढ़ाने के लिए आमंत्रित करता है। क्या प्रतिद्वंद्वी तुलनीय गेटवे-अनुमोदन व्यवस्था अपनाते हैं - और क्या उपयोगकर्ता अतिरिक्त घर्षण को स्वीकार करते हैं - यह निर्धारित करने में मदद करेगा कि अगली पीढ़ी के एआई सिस्टम कैसे बनाए जाते हैं, और किसे उन्हें बनाने की अनुमति है।
वक्र से आगे रहें
क्या आप एआई मॉडल, सुरक्षा और नीति के बारे में नवीनतम जानकारी चाहते हैं? एआई बज़ वायर पर ब्रेकिंग एआई न्यूज को फॉलो करें।
अधिक AI समाचार पढ़ें →