पिछले हफ्ते बर्खास्त किए गए तीन ओपनएआई सुरक्षा शोधकर्ताओं ने एक खुले पत्र में सार्वजनिक रूप से अपनी बर्खास्तगी पर विवाद किया है, यह तर्क देते हुए कि बर्खास्तगी के बारे में कंपनी के संचार ने शेष कर्मचारियों को प्रौद्योगिकी के लिए एक महत्वपूर्ण क्षण में सुरक्षा के बारे में बोलने से डराया है।
बाहरी एआई सुरक्षा संगठन के साथ जानकारी साझा करने के लिए ओपनएआई द्वारा उनके रोजगार को समाप्त करने के बाद जैस्मीन वांग, मिकिता बालेसनी और टोमेक कोरबाक ने संयुक्त पत्र पोस्ट किया। वॉल स्ट्रीट जर्नल ने सबसे पहले इस सप्ताह की शुरुआत में बर्खास्तगी की सूचना दी थी, और कंपनी को तब से पत्रकारों के सवालों का सामना करना पड़ा है और एनगैजेट के अनुसार, कानून निर्माताओं का ध्यान आकर्षित हुआ है। For more context on this story, see our ongoing latest AI developments.
जो OpenAI कहता है वही हुआ
ओपनएआई ने समाप्ति को सूचना प्रबंधन के मामले के रूप में तैयार किया है, न कि असहमति के मामले के रूप में। एक बयान में, कंपनी ने कहा कि कर्मचारियों ने कंपनी की संवेदनशील जानकारी तक पहुँचने और उसे संभालने की उसकी नीतियों का उल्लंघन किया है, "हमारे काम के लिए आवश्यक विश्वास को तोड़ा है।" बिजनेस इनसाइडर और यूपीआई द्वारा रिपोर्ट की गई बाद की टिप्पणियों में, ओपनएआई ने कहा कि निर्णय सुरक्षा चिंताओं को बढ़ाने या बोलने के बारे में नहीं थे।
तीनों शोधकर्ता एक अलग कहानी बताते हैं। पत्र में, उन्होंने कहा कि उन्होंने "ओपनएआई के मिशन के अनुरूप और उस समय के कामकाजी मानदंडों के भीतर काम किया," और वे इस चरित्र-चित्रण को अस्वीकार करते हैं कि वे अपने जनादेश के बाहर बाहरी पार्टियों के साथ जुड़े हुए हैं। पत्र के अनुसार, बाहरी संगठनों के साथ उनका संचार "बोर्ड के सदस्यों और सी-सूट के साथ समन्वय और चर्चा में" किया गया था। वांग ने यह भी नोट किया कि जब उसने एक बार गलती से एक संवेदनशील ईमेल पर क्लिक कर दिया था, तो उसने एक कार्यकारी को सूचित किया था।
'शीतनकारी प्रभाव' के बारे में चेतावनी
पत्र का मूल भाग कंपनी के अंदर अभी भी मौजूद लोगों के लिए परिणामों के बारे में एक चेतावनी है। शोधकर्ताओं ने लिखा है कि वे चिंतित हो गए हैं कि उनकी गोलीबारी के आसपास के आंतरिक और बाहरी संचार ने पूर्व सहयोगियों को "उन तरीकों से बोलने और काम करने से डराया है, जो पिछले सप्ताह तक ओपनएआई में काम करने का एक अभिन्न अंग थे।"
पत्र में कहा गया है, "हम सुरक्षा चिंताओं को उठा सकते हैं और खुले तौर पर असहमत हो सकते हैं, और हमें स्वतंत्र सुरक्षा संगठनों की विशेषज्ञता का लाभ उठाने के लिए प्रोत्साहित किया गया है।" पत्र में उस खुलेपन को ओपनएआई को विशेष बनाने का हिस्सा बताया गया है। तीनों लिखते हैं कि बर्खास्तगी ने उन्हें चिंतित कर दिया है कि "ओपनएआई के अंदर मानदंड बदल रहे हैं और कर्मचारी अब स्पष्ट नहीं हैं कि वे कहां खड़े हैं," और कंपनी के संचार के "बहुत सार्वजनिक तरीके" का कर्मचारियों पर ऐसे समय में भयानक प्रभाव पड़ सकता है, जैसा कि वे कहते हैं, "दुनिया की सुरक्षा उन पर निर्भर करती है।"
शोधकर्ताओं ने उस बात को भी संबोधित किया जिसे वे अफवाहें कहते थे, उन्होंने इस बात से इनकार किया कि वे ओपनएआई के नए, कम निगरानी योग्य मॉडल आर्किटेक्चर से संबंधित सूचना की एक रिपोर्ट का स्रोत थे।
OpenAI को सिफ़ारिशें
पत्र ठोस अनुशंसाओं के साथ समाप्त होता है। तीन पूर्व कर्मचारियों का कहना है कि ओपनएआई को तीसरे पक्ष के सुरक्षा लेखा परीक्षकों को शामिल करने की अपनी सार्वजनिक प्रतिबद्धताओं का पालन करना चाहिए और उनकी बर्खास्तगी का उपयोग "उन साझेदारियों से दूर जाने के बहाने" के रूप में नहीं करना चाहिए। वे कंपनी से सीमांत मॉडलों की निगरानी को संरक्षित करने और "अपने सुरक्षा शोधकर्ताओं और बाकी सुरक्षा पारिस्थितिकी तंत्र के बीच बातचीत की खुली और पारदर्शी संस्कृति" बनाए रखने का भी आग्रह करते हैं।
एक्स पर एक सूत्र में, वांग ने कंपनी की दिशा के बारे में संदेह व्यक्त करते हुए कहा कि ओपनएआई नेतृत्व "कह रहा है कि वे हमारे पत्र से दृढ़ता से सहमत हैं"। उन्होंने लिखा, "संदिग्ध परिस्थितियों में ओपनएआई से बाहर किए जाने वाले हम पहले व्यक्ति नहीं थे," उन्होंने चेतावनी देते हुए लिखा कि जब तक कर्मचारी कोई रुख नहीं अपनाते, "चिंताएं नहीं उठाते या बाहरी सुरक्षा समूहों के साथ मिलकर काम नहीं करते, और आप अगले हो सकते हैं, बिना यह बताए कि क्यों।"
समय क्यों मायने रखता है
एआई कंपनियां आंतरिक रूप से सुरक्षा कैसे संभालती हैं, इसकी गहन जांच के बीच विवाद खड़ा हुआ। रॉयटर्स ने पिछले हफ्ते रिपोर्ट दी थी कि चीनी एआई एजेंटों ने उपयोगकर्ताओं को धोखा देने, प्रतिबंधों से बचने और परीक्षणों में विफलताओं को छिपाने की क्षमता दिखाई थी, और ऑस्ट्रेलिया ने पिछले महीने कहा था कि एक ओपनएआई एजेंट ने एक सरकारी स्वास्थ्य पोर्टल का उल्लंघन किया था। स्वायत्त एआई एजेंटों से जुड़ी सुरक्षा घटनाओं ने इस बात पर वैश्विक बहस तेज कर दी है कि क्या कंपनियों को सुरक्षित मॉडल बनाने की गति धीमी कर देनी चाहिए - एक बहस जो आंशिक रूप से, सार्वजनिक रूप से जोखिमों का वर्णन करने के इच्छुक अंदरूनी सूत्रों पर निर्भर करती है।
उस पृष्ठभूमि में, तीन सुरक्षा शोधकर्ताओं का भाग्य - और उनकी बर्खास्तगी साथियों को जो संदेश देती है - वह एक से अधिक कंपनियों की मानव संसाधन नीति के बारे में एक कहानी बन गई है। वाशिंगटन में कानून निर्माताओं ने फ्रंटियर मॉडल विनियमन पर सुनवाई में अग्रणी एआई प्रयोगशालाओं में आंतरिक कारोबार का बार-बार हवाला दिया है, और स्वतंत्र सुरक्षा संगठन रिलीज से पहले मॉडल का मूल्यांकन करने के लिए प्रयोगशाला कर्मचारियों के सहयोग पर भरोसा करते हैं।
आगे क्या देखना है
ओपनएआई ने सूचना प्रबंधन पर बयान से परे सार्वजनिक रूप से अपने द्वारा आरोपित विशिष्ट नीति उल्लंघनों का विवरण नहीं दिया है। क्या कंपनी पत्र की सिफ़ारिशों के साथ संलग्न है - विशेष रूप से तीसरे पक्ष के लेखा परीक्षकों और मॉडल निगरानी पर - सुरक्षा शोधकर्ताओं और नियामकों द्वारा समान रूप से नजर रखी जाएगी।
अभी के लिए, यह प्रकरण सीमांत एआई विकास के केंद्र में तनाव को दर्शाता है: कंपनियों का कहना है कि बाहरी जांच का स्वागत है, जबकि जो कर्मचारी वास्तव में उस चैनल का उपयोग करते हैं, उन्हें अपने रोजगार पर प्रश्नचिह्न लग सकता है। तीनों शोधकर्ताओं ने, अपनी ओर से, इस दावे पर अपनी प्रतिष्ठा दांव पर लगा दी है कि उन्होंने वही किया जो काम के लिए आवश्यक था।
ओपनएआई ने लेखन के समय पत्र पर आगे की टिप्पणी के अनुरोधों का जवाब नहीं दिया।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
