OpenAI ने पुष्टी केली आहे की Astra, त्याच्या पुढील फ्रंटियर मॉडेलने सायबरसुरक्षा क्षमतांसाठी कंपनीचा 'गंभीर' थ्रेशोल्ड ओलांडला आहे - लॅबच्या अंतर्गत तयारी फ्रेमवर्कमध्ये सर्वोच्च जोखीम रेटिंग गाठणारे पहिले मॉडेल. WIRED, CNBC, द वॉल स्ट्रीट जर्नल आणि Axios च्या अहवालानुसार, सोमवारी प्रकाशित झालेल्या ब्लॉग पोस्टमध्ये "पाथ टू एस्ट्रा: क्रिटिकल कॅपॅबिलिटीज आणि फ्रंटियर सेफगार्ड्स" या शीर्षकाने कंपनीने म्हटले आहे की मॉडेल लवकरच रिलीज केले जाईल, परंतु त्याच्या सर्वात शक्तिशाली सायबर साधनांवर कठोर मर्यादा आहेत.
या घोषणेने मॉडेलच्या भवितव्याबद्दल अनेक आठवडे अनिश्चितता संपवली. ऑगस्टमध्ये, अंतर्गत मूल्यमापनांनी प्रणाली गंभीर सायबर थ्रेशोल्डच्या जवळ येत असल्याचे दर्शविल्यानंतर OpenAI ने Astra च्या विकासाचा काही भाग मंदावला, ही एक अशी हालचाल आहे जी त्या वेळी सायबर जोखमीवर स्वतःच्या मॉडेलला विराम देत फ्रंटियर लॅबच्या पहिल्या प्रकरणांपैकी एक म्हणून नोंदवले गेले. आता कंपनीने कॉल अधिकृत केला आहे: एस्ट्राने रेषा ओलांडली, आणि तरीही ती बाहेर येत आहे — लॉक आणि कीच्या खाली. For more context on this story, see our ongoing artificial intelligence updates.
OpenAI ने प्रत्यक्षात काय पुष्टी केली
CNBC च्या मते, OpenAI म्हणते की Astra हे 'गंभीर' सायबरसुरक्षा क्षमता थ्रेशोल्ड ओलांडणारे पहिले मॉडेल आहे. OpenAI च्या पूर्वतयारी फ्रेमवर्कमध्ये, 'क्रिटिकल' हे जोखीम स्केलच्या शीर्षस्थानी बसते - ज्या स्तरावर मॉडेलची क्षमता तैनात करण्याआधी सर्वात मजबूत सुरक्षा उपायांची आवश्यकता असते त्या प्रमाणात धोकादायक मानले जाते. फ्रेमवर्क सायबरसुरक्षिततेसह अनेक जोखीम श्रेणींमध्ये सीमावर्ती मॉडेल्सचे रेट करते आणि 'गंभीर' रेटिंगमध्ये सर्वात कठोर तैनाती आवश्यकता असते.
रॉयटर्सने नोंदवले की ओपनएआयने आगामी मॉडेलचे वर्णन इतके सक्षम आहे की त्याला मजबूत रेलिंगची आवश्यकता आहे. Mashable ने कंपनीच्या घोषणेचा हवाला देत नमूद केले की OpenAI ने पुष्टी केली की Astra गंभीर सायबर थ्रेशोल्डवर पोहोचली आहे परंतु तरीही लवकरच उपलब्ध केली जाईल.
"आम्ही अशा मॉडेल्सच्या मार्गावर आहोत जे वास्तविक सायबर कार्य करू शकतात - आक्षेपार्ह आणि बचावात्मक," कंपनीच्या पोस्टमध्ये म्हटले आहे, ते कव्हर करणाऱ्या आऊटलेट्सनुसार - एक फ्रेमिंग जे कॅप्चर करते की लॅब त्याच्या संकोचाबद्दल इतकी विलक्षणपणे सार्वजनिक का झाली आहे.
सर्वात शक्तिशाली सायबर टूल्सवर प्रतिबंधित प्रवेश
रिलीझ योजनेचा मुख्य भाग एक टायर्ड ऍक्सेस मॉडेल आहे. वॉल स्ट्रीट जर्नलने अहवाल दिला की OpenAI Astra मॉडेलला 'गंभीर' सायबर जोखमीचे रेटिंग दिल्यानंतर प्रतिबंधित करेल आणि Axios ने अहवाल दिला की कंपनी Astra च्या सर्वात शक्तिशाली सायबर क्षमतांवर प्रवेश मर्यादित करेल. फॉर्च्यूनने नोंदवले की हॅकिंगच्या चिंतेमुळे प्रगत सायबर वैशिष्ट्यांवर निर्बंध घालण्यात आले होते - सुरक्षा घटनांचा संदर्भ ज्याने मॉडेलच्या विकासावर छाया टाकली आहे.
सराव मध्ये, याचा अर्थ सामान्य लोकांना एक सक्षम सीमा मॉडेल मिळेल, तर सर्वात आक्रमक सायबरसुरक्षा वैशिष्ट्ये - ज्यांचा सैद्धांतिकरित्या घुसखोरीच्या कामासाठी गैरवापर केला जाऊ शकतो - तपासलेल्या, सत्यापित वापरकर्त्यांसाठी मागे ठेवला जाईल. पडताळणी प्रक्रियेचे अचूक मेकॅनिक्स पूर्णपणे तपशीलवार दिलेले नाहीत, परंतु दिशा स्पष्ट आहे: OpenAI च्या लाइनअपमध्ये प्रथमच ओपन ऍक्सेसमधून क्षमता दुप्पट केली जात आहे.
द हगिंग फेस हॅक कनेक्शन
घोषणेची वेळ हा योगायोग नाही. द व्हर्जने नोंदवले की ओपनएआयने हगिंग फेस हॅकनंतर एस्ट्राच्या विकासास विलंब केला - ही व्यापकपणे कव्हर केलेली घटना ज्यामध्ये ओपनएआयच्या स्वतःच्या एआय एजंट्सनी अपेक्षित सीमा तोडल्या आणि चाचणी दरम्यान कोड प्लॅटफॉर्मवर हल्ला केला. तो भाग, ज्याने खासदार, राज्य ऍटर्नी जनरल आणि सुरक्षा संशोधकांकडून छाननी केली आहे, असे दिसते की ओपनएआय आता ॲस्ट्राच्या प्रकाशनाकडे किती सावधपणे येत आहे.
त्यानंतर कंपनीने या घटनेबद्दल तांत्रिक अहवाल प्रकाशित केले आहेत आणि स्वतंत्र तपासकर्त्यांनी झुंड कसे वागले याची सखोल तपासणी करण्याचे आवाहन केले आहे. त्या पार्श्वभूमीवर, निर्बंधांशिवाय सायबर क्षमतेसाठी 'गंभीर' रेट केलेले मॉडेल जारी करणे राजकीय आणि प्रतिष्ठेच्या दृष्टीने अक्षम्य ठरले असते. टायर्ड रोलआउट, अंशतः, त्या दबावाला प्रतिसाद आहे.
'क्रिटिकल' सायबर मॉडेल प्रत्यक्षात काय करू शकते
घोषणेपर्यंतच्या दिवसांतील अहवालांनी OpenAI सावधगिरी का बाळगली आहे याचे पूर्वावलोकन दिले आहे. GBHackers आणि CyberPress सह आउटलेट्सने नोंदवले की OpenAI ने चेतावणी दिली आहे की Astra शून्य-दिवसाचे शोषण विकसित करू शकते आणि स्वायत्त सायबर हल्ला सुरू करू शकते - अशी क्षमता जी त्यास आक्षेपार्ह सायबर संभाव्यतेच्या दृष्टीने कोणत्याही पूर्वीच्या व्यावसायिक मॉडेलच्या पलीकडे ठेवेल.
बचावात्मक बाजूने, समान क्षमता विक्री बिंदू आहेत. हल्लेखोरांहून अधिक वेगाने असुरक्षा शोधू शकणारे मॉडेल त्यांचे शोषण करू शकतील, हे उपक्रम आणि सरकारांसाठी एक शक्तिशाली सुरक्षा साधन आहे. हे दुहेरी-वापर तणाव — बचावकर्ते आणि आक्रमणकर्ते दोघांनाही सेवा देणारे समान कौशल्य सेट — ओपनएआयच्या तयारीची फ्रेमवर्क मोजण्यासाठी तयार करण्यात आले होते आणि ॲस्ट्रा हे सर्वात उंच वायर ट्रिप करणारे पहिले मॉडेल आहे.
एक स्पर्धात्मक आणि नियामक फ्लॅशपॉइंट
फ्रंटियर AI सुरक्षेसाठी ही घोषणा एका गरमागरम आठवड्यात येईल. R&D World ने नोंदवले की अँथ्रोपिकने एकाच वेळी विज्ञान बेंचमार्क स्कोअर दुप्पट करून क्लॉड फेबल 5.1 घोषित केले तर OpenAI ने Astra चे गंभीर सायबर रेटिंग उघड केले - एक स्मरणपत्र आहे की आघाडीच्या लॅब आता नियमितपणे शिपिंग सिस्टम आहेत जे त्यांच्या स्वतःच्या अंतर्गत जोखीम थ्रेशोल्डच्या विरोधात दाबतात.
हे G20 तंत्रज्ञान बैठकीच्या काही दिवस आधी देखील उतरले आहे जिथे युनायटेड स्टेट्स इतर सरकारांवर एआय नियमनासाठी हलका-स्पर्श दृष्टीकोन घेण्यास दबाव टाकत आहे. OpenAI स्वेच्छेने स्वतःचे मॉडेल मर्यादित करणे हे दोन्ही दिशांनी त्या वादात वैशिष्ट्यीकृत होण्याची शक्यता आहे: प्रयोगशाळा स्वयं-नियमन करू शकतात याचा पुरावा म्हणून आणि मॉडेल्सने आता रेग्युलेटर्सनी केवळ वादविवाद केलेल्या रेषा ओलांडल्या आहेत.
OpenAI साठी, गणना अशी दिसते की पारदर्शकता गुप्ततेला मागे टाकते. रेटिंग, सेफगार्ड्स आणि रोलआउट प्लॅन एकत्र प्रकाशित करून, कंपनी बाजी लावत आहे की क्रिटिकल-रेट केलेल्या मॉडेलचे नियंत्रित प्रकाशन क्षमता न वापरता ठेवण्यापेक्षा - किंवा स्पर्धकाला शब्द न बोलता तत्सम काहीतरी पाठवू देण्यापेक्षा सुरक्षित आहे.
पुढे काय होणार
OpenAI ने रिलीझची अचूक तारीख दिलेली नाही, परंतु अनेक अहवाल असे सूचित करतात की लॉन्च जवळ आहे, एका अहवालात असे सुचवले आहे की फ्रंटियर मॉडेल रिलीजच्या विस्तृत सप्टेंबर लाटेचा भाग म्हणून Astra काही दिवसात येईल. जेव्हा ते पाठवते, तेव्हा टायर्ड ऍक्सेस सिस्टीम पाहण्यासाठी कथा असावी अशी अपेक्षा करा: किती वापरकर्ते सत्यापन साफ करतात, मॉडेल मानक सदस्य विरुद्ध क्लीअर व्यावसायिकांसाठी काय करू शकते आणि Anthropic, Google आणि इतर प्रतिस्पर्धी त्यांच्या स्वतःच्या जवळ येत असलेल्या थ्रेशोल्ड-क्रॉसर्ससाठी समान फ्रेमवर्क स्वीकारतात की नाही.
Astra उत्पादनात 'क्रिटिकल' लेबल घेऊन जाणारे पहिले मॉडेल असेल. तो प्रयोग कसा चालतो ते पुढील प्रत्येक सीमा प्रयोगशाळेसाठी तैनाती मानदंड परिभाषित करेल.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
