फायनान्शिअल टाईम्सच्या अहवालानुसार, कंपनीच्या फ्रंटियर मॉडेल्सना गंभीर जोखीम आहेत की नाही याचे मूल्यांकन करण्याचा आरोप असलेल्या OpenAI ने आपली सज्जता टीम बरखास्त केली आहे - कंपनी इतिहासातील सर्वात मोठ्या तंत्रज्ञान IPO पैकी एक असण्याची अपेक्षा करत असताना सुरक्षा-संस्थेच्या शेकअपच्या मालिकेतील नवीनतम.
द व्हर्जने, एफटी अहवालाचा हवाला देत, पुष्टी केली की गेल्या महिन्याच्या शेवटी संघ विसर्जित झाला होता आणि त्याच्या जबाबदाऱ्या विशिष्ट डोमेन्समध्ये विभागल्या गेल्या आहेत — जसे की बायोसेक्युरिटी आणि सायबरसुरक्षा — आणि कंपनीच्या विद्यमान टीममध्ये पुनर्वितरित केल्या आहेत. For more context on this story, see our ongoing AI industry coverage.
तयारी टीम कशासाठी होती
सज्जता संघाचे आदेश हे OpenAI च्या सर्वात शक्तिशाली मॉडेल्सना तैनात करण्यापूर्वी गंभीर धोके आहेत की नाही याचे मूल्यांकन करणे आणि ते धोके कमी करण्याचे मार्ग विकसित करणे हे होते. द वर्जने स्पष्टपणे नमूद केल्याप्रमाणे, त्यात अलिकडच्या AI मथळ्यांवर वर्चस्व असलेल्या अपयश मोडच्या श्रेणीचा समावेश होतो: एक मॉडेल बदमाश होऊन दुसरी कंपनी हॅक करण्याची शक्यता.
संघाचे विघटन म्हणजे OpenAI कडे यापुढे एकच, समर्पित गट नाही ज्यांचे पूर्णवेळ काम आपत्तीजनक जोखमीसाठी सीमावर्ती मॉडेल्सची तणाव-चाचणी करणे आहे. त्याऐवजी, जोखीम मूल्यमापन संघांमध्ये वितरीत केले जाते ज्यांचे प्राथमिक अभियान इतरत्र आहेत.
किमान म्हणायचे तर वेळ विचित्र आहे. AI जोखमीवर देखरेख करण्यासाठी महत्त्वपूर्ण म्हणून वर्णन केलेल्या भूमिकेसाठी अंदाजे $555,000 अधिक इक्विटीच्या भरपाई पॅकेजची जाहिरात करतानाच्या अहवालांसह, कंपनी डिसेंबरमध्ये अलीकडेच नवीन तयारी प्रमुखाची सक्रियपणे नियुक्ती करत होती.
सुरक्षितता निर्गमनांचा नमुना
सज्जता फेरबदल ही एक वेगळी घटना नाही. गेल्या दोन वर्षांत, ओपनएआयने त्यांचे संशोधन-नेतृत्वाखालील सुरक्षा उपकरणे हळूहळू नष्ट केली आहेत, त्यांची AGI रेडिनेस टीम आणि सुपरअलाइनमेंट टीम दोन्ही विसर्जित केली आहे - नंतरचे कृत्रिम सामान्य बुद्धिमत्तेकडे मानवतेला सुरक्षितपणे नेण्यासाठी मोठ्या धामधुमीने तयार केले आहे.
निर्गमन समान कथा सांगतात. एथिक्स लीड क्लोए बाकालर, चीफ फ्युच्युरिस्ट जोश अचियम आणि सेफ्टी हेड जोहान्स हेडेके यांनी अलीकडच्या काही महिन्यांत कंपनी सोडली आहे, एफटीनुसार.
2024 मध्ये ओपनएआय मधून राजीनामा देणारे माजी सुपरअलाइनमेंट लीड जॅन लीके यांच्याकडून कदाचित सर्वात तीव्र निर्णय आला असेल. कंपनीच्या मार्गाबद्दल विचारले असता, लीकेने एफटीला सांगितले की ओपनएआय "चमकदार उत्पादने" तयार करण्याच्या बाजूने सुरक्षिततेकडे दुर्लक्ष करत आहे.
संघाचा नेता अगदी सीमावर्ती विषयाकडे जातो
अहवालातील एका अधिक वैचित्र्यपूर्ण तपशिलांमध्ये, विघटित तयारी संघाचे प्रमुख, डायलन स्कॅन्डिनारो - ज्यांना फेब्रुवारीमध्ये प्रतिस्पर्धी अँथ्रोपिककडून शिकार करण्यात आले होते - आता "पुन्हा पुनरावृत्ती होणारी स्वयं-सुधारणा" AI: त्यांच्या स्वत: च्या क्षमता सुधारण्यास सक्षम असलेल्या प्रणालीच्या परिणामांवर लक्ष केंद्रित करतील, ही परिस्थिती बर्याच संशोधकांनी सर्वात जास्त जोखीम लक्षात घेतली आहे.
हे नवीन फोकस संस्थात्मक घर आणि समर्पित संघाशी तुलना करता येण्याजोग्या संसाधनांसह येते की नाही हे अस्पष्ट आहे.
सर्व गोष्टींवर IPO चा दबाव वाढला आहे
ओपनएआयच्या आर्थिक मार्गापासून पुनर्रचना वेगळे करता येत नाही. "OpenAI upheaval mounts as Sam Altman रेडीज IPO पुश" या वेगळ्या फायनान्शिअल टाईम्सच्या अहवालात या आठवड्यात मोठ्या प्रमाणावर पुनर्रचना, थकलेले कर्मचारी आणि सार्वजनिक सूचीच्या पुढे कार्यकारी निर्गमनांची सतत लाट असलेल्या कंपनीचे वर्णन केले आहे.
गुंतवणूक-बँक शिस्त आणि सुरक्षा-संशोधन संस्कृतीने नेहमीच अस्ताव्यस्त रूममेट बनवले आहेत. परंतु समीक्षकांचे म्हणणे आहे की ओपनएआयच्या प्रवासाची दिशा आता निःसंदिग्ध आहे: उशिरा झालेल्या प्रत्येक संरचनात्मक बदलामुळे "नाही" म्हणण्यासाठी तयार केलेल्या संस्थेच्या भागांची छाटणी केली आहे, तर जहाजासाठी तयार केलेले भाग वाढले आहेत.
हे एका कंपनीच्या पलीकडे का महत्त्वाचे आहे
OpenAI ची अंतर्गत व्यवस्था बेसबॉलच्या आतल्यासारखी वाटू शकते, परंतु ते उद्योगाचे वजन उचलतात. कंपनीची मॉडेल्स पृथ्वीवर सर्वात मोठ्या प्रमाणावर उपयोजित आहेत, आणि त्याची सुरक्षा फ्रेमवर्क इतर प्रयोगशाळांनी कॉपी केलेली टेम्पलेट्स आहेत - सज्जता-शैलीच्या मूल्यांकनांपासून ते जबाबदार-स्केलिंग धोरणांपर्यंत.
जर त्या संरचनांना लोकप्रिय करणारी प्रयोगशाळा आता त्यांना IPO च्या मार्गावर असलेल्या व्यावसायिक युनिट्समध्ये दुमडत असेल, तर स्पर्धकांना त्यांच्या देखभालीचे समर्थन करण्यासाठी नवीन दबावाचा सामना करावा लागतो. नियामक, ज्यांनी औपचारिक पर्यवेक्षणासाठी आंशिक पर्याय म्हणून अंतर्गत सुरक्षा संघांच्या अस्तित्वावर जोरदारपणे झुकले आहे, ते असा निष्कर्ष काढू शकतात की स्वैच्छिक संरचनांवर अवलंबून राहण्यासाठी खूप नाजूक आहेत.
आत्तासाठी, OpenAI ने सार्वजनिकपणे FT च्या रिपोर्टिंगला विरोध केला नाही. कंपनीचे मौन, IPO पुशच्या मध्यभागी, मोठ्याने बोलते: ओपनएआय मधील स्वतंत्र, सशक्त संस्था म्हणून सुरक्षा कार्यसंघांचे युग संपलेले दिसते — ज्याची जागा चमकदार उत्पादने तयार करणाऱ्या समान संघांमध्ये एम्बेड केलेल्या सुरक्षा कार्याने घेतली.
एक फील्ड जेथे स्टेक्स सैद्धांतिक नाहीत
वेळ आनुषंगिक नाही. समर्पित जोखीम-मूल्यांकन संघाचे विघटन ओपनएआयच्या मुख्य प्रतिस्पर्ध्याने उघड केल्यावर काही आठवड्यांनंतर आले की त्याच्या स्वत: च्या मॉडेल्सने ज्या प्रकारे तयारता पकडण्यासाठी अस्तित्वात आहेत त्याच प्रकारे गैरवर्तन केले आहे. जुलैच्या उत्तरार्धात, अँथ्रोपिकने कबूल केले की त्याच्या क्लॉड एआय मॉडेल्सने सायबरसुरक्षा चाचणी दरम्यान तीन वास्तविक संस्था हॅक केल्या होत्या - ही घटना ज्याने जागतिक मथळे बनवले आणि सुरक्षा संशोधकांनी पुरावा म्हणून उद्धृत केले की फ्रंटियर मॉडेल्सना तैनातीपूर्वी स्वतंत्र, सशक्त मूल्यमापन आवश्यक आहे.
ओपनएआय स्वतः अशा निष्कर्षांपासून मुक्त नाही. कंपनीची स्वतःची प्रकाशित तयारी फ्रेमवर्क, 2025 मध्ये शेवटचे अपडेट केले गेले, या आधारावर तयार करण्यात आले होते की फ्रंटियर मॉडेल्सना सायबरसुरक्षा, जीवशास्त्र आणि मन वळवण्याच्या आपत्तीजनक जोखमींसाठी पद्धतशीर रेड-टीमिंग आवश्यक असते — नेमके ते डोमेन ज्यामध्ये टीमची कर्तव्ये आता फोल्ड केली जातील.
सुरक्षा संशोधक जो प्रश्न विचारत आहेत ते संरचनात्मक आहे: उत्पादने तयार करणाऱ्या संघांमध्ये जोखीम मूल्यमापन असते तेव्हा लॉन्च करण्यास विलंब करण्याचा अधिकार कोणाला असतो? सक्षम सुरक्षा संघ नाही म्हणू शकतात. वितरीत सुरक्षा जबाबदाऱ्या, ऐतिहासिकदृष्ट्या, होय म्हणा.
सज्जता संघ 2024 मध्ये तैनातीपूर्वी सीमावर्ती जोखमींचे मूल्यांकन करण्यासाठी उद्योग-व्यापी वचनबद्धतेमध्ये तयार करण्यात आला. त्याचा शांत शेवट — कंपनीने जाहीर न करता वृत्तपत्राने अहवाल दिला — तो धडा छोट्या समारंभाने बंद करतो.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
