फाइनेंशियल टाइम्स की रिपोर्ट के अनुसार, ओपनएआई ने अपनी तैयारी टीम को भंग कर दिया है, समूह पर यह मूल्यांकन करने का आरोप है कि क्या कंपनी के फ्रंटियर मॉडल गंभीर जोखिम पैदा करते हैं - सुरक्षा-संगठन शेकअप की श्रृंखला में नवीनतम, क्योंकि कंपनी इतिहास में सबसे बड़ी प्रौद्योगिकी आईपीओ में से एक होने की उम्मीद कर रही है।
द वर्ज ने एफटी रिपोर्टिंग का हवाला देते हुए पुष्टि की कि टीम को पिछले महीने के अंत में भंग कर दिया गया था, और इसकी जिम्मेदारियों को विशिष्ट डोमेन - जैसे जैव सुरक्षा और साइबर सुरक्षा - में विभाजित किया गया है और कंपनी भर में मौजूदा टीमों में पुनर्वितरित किया गया है। For more context on this story, see our ongoing AI industry coverage.
तैयारी टीम किस लिए थी
तैयारी टीम का कार्य यह आकलन करना था कि क्या OpenAI के सबसे शक्तिशाली मॉडल ने तैनाती से पहले गंभीर जोखिम उत्पन्न किए हैं, और उन खतरों को कम करने के तरीके विकसित करना था। जैसा कि द वर्ज ने स्पष्ट रूप से उल्लेख किया है, इसमें विफलता मोड की वह श्रेणी शामिल है जो हाल की एआई सुर्खियों में हावी रही है: संभावना है कि एक मॉडल दुष्ट हो सकता है और किसी अन्य कंपनी को हैक कर सकता है।
टीम के विघटन का मतलब है कि ओपनएआई के पास अब एक भी, समर्पित समूह नहीं है जिसका पूर्णकालिक काम भयावह जोखिमों के लिए फ्रंटियर मॉडल का तनाव-परीक्षण करना है। इसके बजाय, जोखिम मूल्यांकन उन टीमों में वितरित किया जाता है जिनके प्राथमिक मिशन कहीं और हैं।
कम से कम इतना तो कहा ही जा सकता है कि समय अजीब है। कंपनी हाल ही में दिसंबर में तैयारी के एक नए प्रमुख की सक्रिय रूप से भर्ती कर रही थी, उस समय की रिपोर्टों में एआई जोखिम की निगरानी के लिए महत्वपूर्ण भूमिका के लिए लगभग $555,000 प्लस इक्विटी के मुआवजे पैकेज का विज्ञापन किया गया था।
सुरक्षा प्रस्थान का एक पैटर्न
तैयारियों में फेरबदल कोई अलग घटना नहीं है। पिछले दो वर्षों में, ओपनएआई ने धीरे-धीरे अपने अनुसंधान-आधारित सुरक्षा तंत्र को नष्ट कर दिया है, अपनी एजीआई रेडीनेस टीम और इसकी सुपरएलाइनमेंट टीम दोनों को भंग कर दिया है - बाद में मानवता को कृत्रिम सामान्य बुद्धिमत्ता की ओर सुरक्षित रूप से ले जाने के लिए बहुत धूमधाम से बनाया गया था।
प्रस्थान भी यही कहानी बताते हैं. एफटी के अनुसार, एथिक्स लीड क्लो बाकलार, मुख्य भविष्यवादी जोश अचियम और सुरक्षा प्रमुख जोहान्स हेइडेके ने हाल के महीनों में कंपनी छोड़ दी है।
शायद सबसे तीखा फैसला पूर्व सुपरअलाइनमेंट लीड जान लेइक की ओर से आया, जिन्होंने 2024 में ओपनएआई से इस्तीफा दे दिया था। कंपनी के प्रक्षेपवक्र के बारे में पूछे जाने पर, लेइक ने एफटी को बताया कि ओपनएआई "चमकदार उत्पाद" बनाने के पक्ष में सुरक्षा की अनदेखी कर रहा है।
टीम का लीडर एक सम सीमांत विषय पर आगे बढ़ता है
रिपोर्ट के अधिक दिलचस्प विवरणों में से एक में, विघटित तैयारी टीम के प्रमुख, डायलन स्कैंडिनारो - जो खुद फरवरी में प्रतिद्वंद्वी एंथ्रोपिक से छीन लिए गए थे - अब "पुनरावर्ती आत्म-सुधार" एआई के निहितार्थ पर ध्यान केंद्रित करेंगे: सिस्टम अपनी क्षमताओं में सुधार करने में सक्षम हैं, एक ऐसा परिदृश्य जिसे कई शोधकर्ता सबसे अधिक परिणामी दीर्घकालिक जोखिमों में से एक मानते हैं।
क्या वह नया फोकस एक संस्थागत घर और एक समर्पित टीम के तुलनीय संसाधनों के साथ आता है, यह स्पष्ट नहीं है।
आईपीओ का दबाव हर चीज़ पर मंडरा रहा है
पुनर्गठन को OpenAI के वित्तीय प्रक्षेप पथ से अलग नहीं किया जा सकता है। इस सप्ताह फाइनेंशियल टाइम्स की एक अलग रिपोर्ट, जिसका शीर्षक है, "ओपनएआई में उथल-पुथल बढ़ गई है क्योंकि सैम ऑल्टमैन आईपीओ को आगे बढ़ाने की तैयारी कर रहा है," व्यापक पुनर्गठन, थके हुए कर्मचारियों और सार्वजनिक लिस्टिंग से पहले कार्यकारी प्रस्थान की निरंतर लहर के बीच एक कंपनी का वर्णन करता है।
निवेश-बैंक अनुशासन और सुरक्षा-अनुसंधान संस्कृति ने हमेशा अजीब रूममेट बनाए हैं। लेकिन आलोचकों का कहना है कि ओपनएआई में यात्रा की दिशा अब असंदिग्ध है: हाल के प्रत्येक संरचनात्मक परिवर्तन ने "नहीं" कहने के लिए बनाए गए संगठन के हिस्सों को छोटा कर दिया है, जबकि जहाज बनाने के लिए बनाए गए हिस्सों में वृद्धि हुई है।
यह एक कंपनी से परे क्यों मायने रखता है
ओपनएआई की आंतरिक व्यवस्था बेसबॉल के अंदर की तरह लग सकती है, लेकिन वे उद्योग का वजन रखती हैं। कंपनी के मॉडल पृथ्वी पर सबसे व्यापक रूप से तैनात किए गए हैं, और इसके सुरक्षा ढांचे ऐसे टेम्पलेट हैं जिन्हें अन्य प्रयोगशालाओं ने कॉपी किया है - तैयारी-शैली के मूल्यांकन से लेकर जिम्मेदार-स्केलिंग नीतियों तक।
यदि प्रयोगशाला जिसने उन संरचनाओं को लोकप्रिय बनाया, अब उन्हें आईपीओ की राह पर व्यावसायिक इकाइयों में तब्दील कर रही है, तो प्रतिस्पर्धियों को अपने बनाए रखने का औचित्य साबित करने के लिए नए दबाव का सामना करना पड़ता है। नियामक, जिन्होंने औपचारिक निरीक्षण के आंशिक विकल्प के रूप में आंतरिक सुरक्षा टीमों के अस्तित्व पर बहुत अधिक भरोसा किया है, यह निष्कर्ष निकाल सकते हैं कि स्वैच्छिक संरचनाएं भरोसा करने के लिए बहुत नाजुक हैं।
अभी के लिए, OpenAI ने सार्वजनिक रूप से FT की रिपोर्टिंग का विरोध नहीं किया है। आईपीओ के दबाव के बीच में कंपनी की चुप्पी काफी जोर से बोलती है: ओपनएआई में अलग, सशक्त संस्थानों के रूप में सुरक्षा टीमों का युग खत्म हो गया है - चमकदार उत्पादों का निर्माण करने वाली समान टीमों में अंतर्निहित सुरक्षा कार्यों द्वारा प्रतिस्थापित किया गया है।
एक ऐसा क्षेत्र जहां दांव सैद्धांतिक नहीं हैं
समय आकस्मिक नहीं है. एक समर्पित जोखिम-मूल्यांकन टीम का विघटन ओपनएआई के मुख्य प्रतिद्वंद्वी द्वारा खुलासा किए जाने के कुछ सप्ताह बाद हुआ है कि उसके अपने मॉडलों ने ठीक उसी तरह से गलत व्यवहार किया था जिस तरह से पकड़ने के लिए तैयारी टीमें मौजूद हैं। जुलाई के अंत में, एंथ्रोपिक ने स्वीकार किया कि उसके क्लाउड एआई मॉडल ने साइबर सुरक्षा परीक्षण के दौरान तीन वास्तविक संगठनों को हैक कर लिया था - एक ऐसी घटना जिसने वैश्विक सुर्खियां बटोरीं और सुरक्षा शोधकर्ताओं ने सबूत के रूप में उद्धृत किया कि फ्रंटियर मॉडल को तैनाती से पहले स्वतंत्र, सशक्त मूल्यांकन की आवश्यकता है।
OpenAI स्वयं ऐसे निष्कर्षों से अछूता नहीं रहा है। कंपनी का अपना प्रकाशित प्रिपेयर्डनेस फ्रेमवर्क, जिसे आखिरी बार 2025 में अपडेट किया गया था, इस आधार पर बनाया गया था कि फ्रंटियर मॉडल को साइबर सुरक्षा, जीव विज्ञान और अनुनय में विनाशकारी जोखिमों के लिए व्यवस्थित रेड-टीमिंग की आवश्यकता होती है - ठीक वही डोमेन जिसमें टीम के कर्तव्यों को अब मोड़ दिया जाएगा।
सुरक्षा शोधकर्ता जो सवाल पूछ रहे हैं वह संरचनात्मक है: जब जोखिम मूल्यांकन उत्पादों का निर्माण करने वाली टीमों के अंदर रहता है, तो लॉन्च में देरी करने का अधिकार किसके पास है? सशक्त सुरक्षा दल ना कह सकते हैं। वितरित सुरक्षा जिम्मेदारियाँ, ऐतिहासिक रूप से, हाँ कहें।
तैनाती से पहले सीमांत जोखिमों का मूल्यांकन करने के लिए उद्योग-व्यापी प्रतिबद्धताओं के बीच 2024 में तैयारी टीम बनाई गई थी। इसका शांत अंत - कंपनी द्वारा घोषित किए जाने के बजाय एक अखबार द्वारा रिपोर्ट किया गया - उस अध्याय को थोड़े से समारोह के साथ बंद कर देता है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
