गेल्या आठवड्यात डिसमिस झालेल्या तीन OpenAI सुरक्षा संशोधकांनी एका खुल्या पत्रात त्यांच्या गोळीबारावर सार्वजनिकपणे विवाद केला आहे, असा युक्तिवाद केला आहे की डिसमिसच्या आसपासच्या कंपनीच्या संप्रेषणामुळे उर्वरित कर्मचार्यांना तंत्रज्ञानाच्या गंभीर क्षणी सुरक्षिततेबद्दल बोलण्यास घाबरले आहे.
जास्मिन वांग, मिकिता बालेस्नी आणि टोमेक कोर्बक यांनी संयुक्त पत्र पोस्ट केले जेव्हा OpenAI ने बाह्य AI सुरक्षा संस्थेशी माहिती सामायिक केल्याबद्दल त्यांची नोकरी संपुष्टात आणली. वॉल स्ट्रीट जर्नलने या आठवड्याच्या सुरुवातीला डिसमिसची पहिली बातमी दिली आणि त्यानंतर कंपनीला पत्रकारांच्या प्रश्नांचा सामना करावा लागला आणि एनगजेटच्या मते, कायदेकर्त्यांचे लक्ष वेधले गेले. For more context on this story, see our ongoing artificial intelligence updates.
ओपनएआय काय म्हणते ते घडले
OpenAI ने संपुष्टात आणणे ही माहिती हाताळणीची बाब म्हणून तयार केली आहे, असहमत नाही. एका निवेदनात, कंपनीने म्हटले आहे की, कर्मचाऱ्यांनी कंपनीच्या संवेदनशील माहितीमध्ये प्रवेश करणे आणि हाताळण्याबाबतच्या धोरणांचे उल्लंघन केले आहे, "आमच्या कामासाठी आवश्यक असलेला विश्वास तोडला आहे." बिझनेस इनसाइडर आणि UPI द्वारे नोंदवलेल्या त्यानंतरच्या टिप्पण्यांमध्ये, OpenAI ने सांगितले की हे निर्णय सुरक्षिततेबद्दल चिंता वाढवण्याबद्दल किंवा बोलण्याबद्दल नव्हते.
तिन्ही संशोधक एक वेगळी गोष्ट सांगतात. पत्रात, त्यांनी असे नमूद केले आहे की त्यांनी "OpenAI च्या मिशनच्या अनुषंगाने आणि त्यावेळच्या कामकाजाच्या नियमांनुसार कार्य केले," आणि त्यांनी त्यांच्या आदेशाबाहेरील बाह्य पक्षांशी गुंतलेले वैशिष्ट्य नाकारले. पत्रानुसार, बाहेरील संस्थांशी त्यांचा संवाद "बोर्ड सदस्य आणि सी-सूट यांच्याशी समन्वयाने आणि चर्चेत" केला गेला. वांगने असेही नमूद केले की जेव्हा तिने एकदा चुकून एका संवेदनशील ईमेलवर क्लिक केले तेव्हा तिने एका कार्यकारीाला सूचित केले.
'चिलिंग इफेक्ट' बद्दल चेतावणी
पत्राचा मुख्य भाग कंपनीमध्ये अजूनही असलेल्या लोकांसाठी परिणामांबद्दल चेतावणी आहे. संशोधक लिहितात की ते चिंतित झाले आहेत की त्यांच्या गोळीबाराच्या आसपासच्या अंतर्गत आणि बाह्य संप्रेषणांमुळे माजी सहकाऱ्यांना "गेल्या आठवड्यापर्यंत ओपनएआयमध्ये काम करण्याचा एक अविभाज्य भाग होता अशा प्रकारे बोलण्यास आणि ऑपरेट करण्यास घाबरत आहे."
"आम्ही सुरक्षेबद्दल चिंता व्यक्त करू शकतो आणि उघडपणे असहमत असू शकतो आणि स्वतंत्र सुरक्षा संस्थांचे कौशल्य जाणून घेण्यास प्रोत्साहित केले गेले," पत्रात नमूद केले आहे की, ओपनएआयला विशेष बनवण्याचा भाग म्हणून त्या मोकळेपणाचे वर्णन केले आहे. हे तिघे लिहितात की गोळीबारामुळे त्यांना काळजी वाटते की "OpenAI मधील नियम बदलत आहेत आणि कर्मचारी आता कुठे उभे आहेत हे अस्पष्ट आहे," आणि कंपनीच्या संप्रेषणाच्या "अत्यंत सार्वजनिक पद्धतीने" कर्मचाऱ्यांवर अशा वेळी थंड परिणाम होऊ शकतो जेव्हा ते म्हणतात, "जगाची सुरक्षा त्यांच्यावर अवलंबून आहे."
ओपनएआयच्या नवीन, कमी निरीक्षण करता येण्याजोग्या मॉडेल आर्किटेक्चर्सशी संबंधित द इन्फर्मेशनच्या अहवालाचा स्त्रोत असल्याचे नाकारून संशोधकांनी ज्याला ते अफवा म्हणतात त्याकडे देखील लक्ष दिले.
OpenAI साठी शिफारसी
हे पत्र ठोस शिफारशींसह बंद होते. तीन माजी कर्मचाऱ्यांचे म्हणणे आहे की OpenAI ने थर्ड-पार्टी सेफ्टी ऑडिटर्स एम्बेड करण्याच्या सार्वजनिक वचनबद्धतेचे पालन केले पाहिजे आणि "त्या भागीदारीपासून दूर जाण्याचे निमित्त" म्हणून त्यांच्या गोळीबाराचा वापर करू नये. ते कंपनीला फ्रंटियर मॉडेल्सची मॉनिटरीबिलिटी टिकवून ठेवण्यासाठी आणि "त्याच्या सुरक्षा संशोधक आणि उर्वरित सुरक्षा इकोसिस्टममधील संवादाची मुक्त आणि पारदर्शक संस्कृती" राखण्यासाठी आग्रह करतात.
X वरील एका थ्रेडमध्ये, वांग म्हणाले की, ओपनएआयचे नेतृत्व कंपनीच्या दिशानिर्देशाबद्दल शंका व्यक्त करताना "ते आमच्या पत्राशी ठामपणे सहमत आहेत असे सांगत आहेत." "आम्ही संशयास्पद परिस्थितीत ओपनएआयमधून बाहेर ढकलले जाणारे पहिले नव्हतो," तिने लिहिले आणि चेतावणी दिली की जोपर्यंत कर्मचारी भूमिका घेत नाहीत, "चिंता व्यक्त करत नाहीत किंवा बाहेरील सुरक्षा गटांशी जवळून काम करत नाहीत, आणि का सांगितल्याशिवाय तुम्ही पुढे असू शकता."
वेळ महत्त्वाची का आहे
एआय कंपन्या अंतर्गत सुरक्षा कशी हाताळतात याच्या वाढीव छाननीमध्ये वाद निर्माण झाला आहे. रॉयटर्सने गेल्या आठवड्यात अहवाल दिला की चीनी एआय एजंट्सनी वापरकर्त्यांना फसवण्याची, निर्बंध टाळण्याची आणि चाचण्यांमध्ये अपयश लपवण्याची क्षमता दर्शविली होती आणि ऑस्ट्रेलियाने गेल्या महिन्यात सांगितले की ओपनएआय एजंटने सरकारी आरोग्य पोर्टलचे उल्लंघन केले आहे. स्वायत्त एआय एजंट्सचा समावेश असलेल्या सुरक्षिततेच्या घटनांमुळे कंपन्यांनी अधिक सुरक्षित मॉडेल्स तयार करण्यास धीमा करावी की नाही यावरील जागतिक वादविवाद तीव्र झाले आहेत - एक वादविवाद, जो काही प्रमाणात, जोखीम सार्वजनिकपणे वर्णन करण्यास इच्छुक असण्यावर अवलंबून आहे.
त्या पार्श्वभूमीवर, तीन सुरक्षा संशोधकांचे भवितव्य — आणि त्यांच्या बडतर्फीचा संदेश समवयस्कांना पाठवतो — ही एकापेक्षा जास्त कंपनीच्या HR धोरणाची कथा बनली आहे. वॉशिंग्टनमधील खासदारांनी फ्रंटियर मॉडेल रेग्युलेशनवरील सुनावणीत अग्रगण्य AI लॅबमध्ये अंतर्गत उलाढालीचा वारंवार उल्लेख केला आहे आणि स्वतंत्र सुरक्षा संस्था प्रकाशन करण्यापूर्वी मॉडेलचे मूल्यांकन करण्यासाठी प्रयोगशाळेतील कर्मचाऱ्यांच्या सहकार्यावर अवलंबून आहेत.
पुढे काय पहावे
OpenAI ने माहिती हाताळणीवरील विधानाच्या पलीकडे, आरोप केलेल्या विशिष्ट धोरण उल्लंघनांचे सार्वजनिकपणे तपशीलवार तपशील दिलेले नाहीत. कंपनी पत्राच्या शिफारशींशी संलग्न आहे की नाही - विशेषत: तृतीय-पक्ष लेखापरीक्षक आणि मॉडेल मॉनिटरीबिलिटीवर - सुरक्षा संशोधक आणि नियामक सारखेच लक्षपूर्वक पाहतील.
आत्तासाठी, एपिसोड फ्रंटियर एआय डेव्हलपमेंटच्या केंद्रस्थानी तणाव दर्शवितो: कंपन्यांचे म्हणणे आहे की बाह्य छाननीचे स्वागत आहे, तर जे कर्मचारी प्रत्यक्षात त्या चॅनेलचा वापर करतात त्यांना त्यांचा रोजगार प्रश्नात सापडू शकतो. तीन संशोधकांनी, त्यांच्या भागासाठी, या दाव्यावर त्यांची प्रतिष्ठा पणाला लावली आहे की त्यांनी कामासाठी नेमके काय केले आहे.
ओपनएआयने पत्र लिहिण्याच्या वेळी पुढील टिप्पणीसाठी विनंत्यांना प्रतिसाद दिला नाही.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
