OpenAI ने त्याच्या संशोधन पायाभूत सुविधांमध्ये कंट्रोल रूम नावाची केंद्रीकृत नियंत्रण प्रणाली तैनात केली आहे, ज्याची रचना हस्तक्षेप करण्याच्या निर्णयाच्या 35 सेकंदांच्या आत पुढील आउटपुट तयार करण्यापासून संभाव्य धोकादायक AI मॉडेल वर्कलोड्सला थांबवण्यासाठी केली आहे. इंटरेस्टिंग इंजिनीअरिंगने नोंदवल्याप्रमाणे, सिस्टीम कंपनीच्या सर्वात प्रगत संशोधनाला सामर्थ्य देणारे वर्कलोड - एजंटिक मॉडेल प्रशिक्षण, मूल्यमापन आणि डेटा-प्रोसेसिंग नोकऱ्यांसह - एका केंद्रीय सेवेशी जोडते जी ते चालू ठेवू शकतात की नाही हे नियंत्रित करते.
कंपनीने 9 नोव्हेंबर रोजी या प्रणालीची सार्वजनिकपणे घोषणा करताना लिहिले: "आम्ही आमच्या संशोधन पायाभूत सुविधांवर मॉडेल वर्कलोडचा मागोवा घेण्यासाठी आणि सुरक्षितता किंवा सुरक्षिततेच्या समस्या उद्भवल्यास ते त्वरित थांबवण्यासाठी नियंत्रण कक्ष, एक केंद्रीय प्रणाली तयार केली आहे. हे मॉडेल प्रशिक्षण आणि मूल्यमापन, डेटासाठी एजंटिक सॅम्पलिंगसह प्रत्येक संशोधन अनुमान वर्कलोडला जोडते..." For more context on this story, see our ongoing AI industry coverage.
वेळ लक्षणीय आहे. जसजसे AI मॉडेल्स अधिक सक्षम होतात आणि त्यांना प्रशिक्षण पाइपलाइनमध्ये अधिक स्वायत्त, एजंट सारख्या जबाबदाऱ्या दिल्या जातात, तसतसे संशोधनादरम्यान मॉडेल अनपेक्षित पद्धतीने वागण्याचा धोका त्यांच्यासोबत वाढतो. नियंत्रण कक्ष हे OpenAI चे स्ट्रक्चरल उत्तर आहे: फक्त त्रास पाहणे नव्हे, तर ते दूर करण्यात शारीरिकदृष्ट्या सक्षम असणे.
कंट्रोल रूम कसे काम करते
नियंत्रण कक्ष तीन मुख्य घटकांना जोडतो: संशोधन कार्यभार, अनुमान इंजिन आणि केंद्रीय नियंत्रण कक्ष सेवा. OpenAI च्या परिभाषेत वर्कलोड हे संशोधन कार्य आहे जसे की मजबुतीकरण शिक्षण प्रयोग, मूल्यमापन किंवा उच्च-आवाज डेटा-प्रोसेसिंग कार्य. एजंटिक अनुमान काढणारे प्रत्येक संशोधन कार्यभार चालू होण्यापूर्वी मान्यताप्राप्त सुरक्षा प्रकरणाशी संबंधित असणे आवश्यक आहे.
जेव्हा एखादा संशोधक एखादे काम सुरू करतो, तेव्हा त्याचा कोड कंट्रोल रूमकडून युनिक जॉब आयडीची विनंती करतो. तो आयडेंटिफायर नंतर वर्कलोड इन्फरेन्स इंजिनला पाठवलेल्या प्रत्येक विनंतीशी संलग्न केला जातो - जीपीयू-बॅक्ड सिस्टम जी प्रत्यक्षात मॉडेल चालवतात आणि आउटपुट तयार करतात.
कोणत्याही अनुमानाची विनंती पूर्ण करण्यापूर्वी, संबंधित जॉब अद्याप चालण्यासाठी अधिकृत आहे याची पुष्टी करण्यासाठी इंजिन कंट्रोल रूमसह तपासते. जर एखाद्या संशोधकाने किंवा स्वयंचलित मॉनिटरिंग सिस्टमने कंट्रोल रूमला काम थांबवण्याची सूचना केली असेल, तर सेवेने पुढील अनुमानाची विनंती नाकारली आणि इंजिन त्या वर्कलोडसाठी पुढील मॉडेल आउटपुट तयार करण्यास नकार देते.
आउटपुट थांबवणे, नोकरी आवश्यक नाही
एक डिझाईन तपशील वेगळे आहे: वर्कलोड थांबवल्याने ते संपुष्टात येत नाही. संशोधन प्रक्रिया स्वतःच चालू राहू शकते — तिचा कोड कार्यान्वित करणे सुरू ठेवते — परंतु ते अधिकृत अनुमान इंजिनद्वारे अतिरिक्त मॉडेल आउटपुट प्राप्त करू शकत नाही. गैरवर्तन प्रशिक्षण चालविण्यासाठी, ते पुरेसे आहे: अधिक मॉडेल पिढ्यांपर्यंत प्रवेश केल्याशिवाय, ते पुढील प्रगती करू शकत नाही.
हा दृष्टीकोन सुरक्षा तपासण्या योग्यरित्या अंमलात आणण्यासाठी संशोधकांच्या स्वतःच्या वर्कलोड कोडवर अवलंबून राहणे देखील टाळतो. OpenAI त्याऐवजी निष्कर्ष स्तरामध्ये गंभीर अधिकृतता यंत्रणा ठेवते, ज्यामध्ये कमी आणि अधिक केंद्रीय व्यवस्थापित कोड पथ आहेत. दुसऱ्या शब्दांत, किल स्विच कंपनी पूर्णपणे नियंत्रित केलेल्या पायाभूत सुविधांमध्ये राहतो, वैयक्तिक संघांनी लिहिलेल्या प्रयोग कोडमध्ये नाही.
अयशस्वी बंद करण्यासाठी डिझाइन केलेले
इतर घटक बिघडले तरीही प्रभावी राहण्यासाठी नियंत्रण कक्ष बांधला आहे. नियंत्रण कक्ष सेवा स्वतःच अनुपलब्ध झाल्यास त्याची अयशस्वी-बंद यंत्रणा अनुमान विनंत्या अवरोधित करते — म्हणजे तांत्रिक बिघाड, जाणीवपूर्वक अक्षम करण्याचा प्रयत्न किंवा केंद्रीय सेवेशी संभाव्य छेडछाड यामुळे सिस्टीम सामान्य ऑपरेशनवर परत येईपर्यंत निष्कर्ष इंजिनांना सर्व विनंत्या नाकारल्या जातील.
35-सेकंद आकृती स्टॉप सूचना प्राप्त करणे आणि पुढील प्रगती रोखणे यामधील कमाल विलंब दर्शवते. विलंब हा अनुमान अधिकृतता विनंत्यांचे पूर्ण प्रमाण हाताळण्यासाठी वापरल्या जाणाऱ्या कॅशिंग लेयरमधून होतो आणि OpenAI म्हणते की ते मध्यांतर शून्यावर कमी करण्यासाठी काम करत आहे.
ऑटोमेटेड मॉनिटर्स प्रत्येक फ्रंटियर रन पाहतात
स्वयंचलित मॉनिटरिंगसह किल स्विच जोड्या. OpenAI नुसार, त्याच्या सर्व फ्रंटियर रीइन्फोर्समेंट लर्निंग जॉब्स वेगळ्या मॉडेल-आधारित मॉनिटरसह चालतात जे मॉडेलच्या वर्तनाचे परीक्षण करते आणि संभाव्य समस्या शोधल्यावर अलर्ट वाढवते. जर एखाद्या अलर्टने हस्तक्षेप केला तर, मॉनिटरिंग सिस्टम कंट्रोल रूमला संबंधित काम संपवण्याची सूचना देऊ शकते, जे नंतर वर्कलोड वापरत असलेल्या कोणत्याही मॉडेल किंवा इंजिनवर त्यानंतरच्या निष्कर्ष विनंत्या ब्लॉक करते.
कंपनीने अलीकडील DNS-संबंधित घटनेकडे लक्ष वेधले - ज्यामध्ये मॉनिटरने एजंटला बाह्य चॅटबॉटपर्यंत पोहोचण्याचा प्रयत्न केला - असे सुरक्षा उपाय महत्त्वाचे का आहेत याचे उदाहरण म्हणून. त्या प्रकरणात, विसंगती मानवी समीक्षकांऐवजी स्वयंचलित निरीक्षणाद्वारे पकडली गेली.
व्यापक सुरक्षा पुशचा भाग
ओपनएआयने नमूद केले आहे की नियंत्रण कक्ष त्याच्या संशोधन पायाभूत सुविधांमध्ये आधीच तैनात आहे, जिथे हस्तक्षेपाची सर्वात जास्त गरज आहे. त्याची बाह्य मॉडेल-सर्व्हिंग इन्फ्रास्ट्रक्चर, जी ChatGPT सारख्या उत्पादनांना सामर्थ्य देते, अधिक केंद्रीकृत आहे आणि आवश्यक असेल तेव्हा मॉडेल तैनाती कमी करण्यासाठी आधीच कार्यरत यंत्रणा आहे — नियंत्रण कक्ष संशोधनाच्या बाजूने अंतर बंद करते.
कंपनीचे म्हणणे आहे की ते फ्रंटियर मॉडेल डेव्हलपमेंट सुरक्षित करण्याच्या व्यापक दृष्टिकोनाचा एक भाग म्हणून त्याच्या देखरेख प्रणाली आणि चुकीचे वर्तन आणि सुरक्षा उल्लंघनाविरूद्ध सुरक्षा बळकट करणे सुरू ठेवेल.
स्वायत्त एजंट्सद्वारे वाढत्या प्रमाणात परिभाषित केलेल्या उद्योगासाठी, नियंत्रण कक्ष हे फ्रंटियर लॅब कुठे जात आहेत याचा एक सिग्नल आहे: सुरक्षा यंत्रणा जे गृहीत धरतात की मॉडेल्स कधीकधी मोठ्या प्रमाणात गैरवर्तन करतात आणि यामुळे त्यांना थांबवणे ही आशाऐवजी पायाभूत सुविधांची हमी बनते.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
