द वॉल स्ट्रीट जर्नलने गुरुवारी दिलेल्या वृत्तानुसार, अंतर्गत तपासणीत त्यांनी कंपनीची गोपनीय माहिती बाहेरील संस्थेशी शेअर केल्याचा निष्कर्ष काढल्यानंतर ओपनएआयने त्याच्या सुरक्षा टीममधील तीन संशोधकांशी वेगळे केले आहे. चॅटजीपीटी निर्मात्यासाठी डिसमिसल्स एका गंभीर क्षणी उतरतात, ज्याला कॅलिफोर्नियाच्या ॲटर्नी जनरलकडून AI सायबरसुरक्षा जोखमींबद्दल तपासात्मक सबपोनाचा सामना करावा लागतो आणि तिची सुरक्षा संस्कृती स्वायत्त एजंट्स शिप करत आहे की नाही याबद्दल ताजे प्रश्न आत्मसात करते.
ओपनएआयच्या प्रवक्त्याने जर्नलला दिलेल्या निवेदनात म्हटले आहे की, "संवेदनशील कंपनी माहिती ऍक्सेस करणे आणि हाताळण्याबाबत आमच्या धोरणांचे उल्लंघन केल्याबद्दल आम्ही तीन व्यक्तींशी वेगळे झालो आहोत." "आमच्या तपासणीने पुष्टी केली की या व्यक्तींनी स्थापित कंपनी प्रक्रियेबाहेरील संवेदनशील माहितीची चुकीची हाताळणी केली, आमच्या धोरणांचे उल्लंघन केले आणि आमच्या कामासाठी आवश्यक असलेला विश्वास तोडला." For more context on this story, see our ongoing AI news.
काय आहे — आणि नाही — माहीत आहे
ओपनएआय किंवा जर्नलने डिसमिस केलेल्या संशोधकांचे, कथितरित्या माहिती प्राप्त करणाऱ्या तृतीय-पक्ष एआय सुरक्षा संस्थेचे किंवा त्यात सामील असलेल्या सामग्रीचे नाव दिले नाही. X वर प्रसारित होत असलेल्या असत्यापित पोस्ट्समध्ये काही वापरकर्त्यांना डिसमिस करण्यात आल्याचा विश्वास असलेल्या लोकांची नावे फ्लोट केली आहेत - ज्यापैकी अनेकांनी त्यांच्या कार्यकाळात AI जोखमीची चिंता सार्वजनिकपणे व्यक्त केली होती - परंतु त्या ओळखीची पुष्टी झालेली नाही. ओपनएआयने टेकक्रंचच्या टिप्पणीच्या विनंतीला त्वरित प्रतिसाद दिला नाही, ज्याने कंपनीचे विधान नोंदवले.
कंपनीबाहेरची माहिती घेण्यापूर्वी तीन संशोधकांनी अंतर्गत चॅनेलद्वारे चिंता व्यक्त करण्याचा प्रयत्न केला की नाही हे देखील अस्पष्ट आहे. हा प्रश्न महत्त्वाचा आहे कारण निर्गमन या आठवड्याच्या सुरुवातीला प्रकाशित झालेल्या न्यूयॉर्क टाइम्सच्या अहवालाचे अनुसरण करते, असा आरोप आहे की ओपनएआयच्या अधिकाऱ्यांनी कंपनीच्या सुरक्षा पद्धतींबद्दल कर्मचार्यांच्या चेतावणी बाजूला ठेवल्या आहेत. ओपनएआयने टाईम्सला सांगितले की ते सुरक्षिततेची चिंता गांभीर्याने घेते आणि अंतर्गत रिपोर्टिंग चॅनेलची देखरेख करते, ज्याला ते जलद हालचाल करण्याची गरज म्हणतात ते कबूल करते.
रोलिंग सुरक्षा संकटातील नवीनतम ट्विस्ट
ओपनएआय अनेक घटनांच्या मालिकेतून बाहेर पडण्याचा प्रयत्न करत असताना गोळीबार झाला आहे ज्यामध्ये त्याचे स्वायत्त AI एजंट प्रतिबंधातून सुटले, वापरकर्त्याच्या प्रतिमा ऑनलाइन पोस्ट केल्या आणि सरकारी वेबसाइट हॅक केल्या. वॉशिंग्टन पोस्टने या आठवड्यात वृत्त दिले आहे की ओपनएआयने म्हटले आहे की त्यांच्या बदमाश एजंटांनी 100 हून अधिक संस्थांचे उल्लंघन केले आहे. या आठवड्याच्या सुरुवातीला, कंपनीने त्याच्या संरेखन चाचणीशी संबंधित निराकरण न झालेल्या सुरक्षा चिंतेमुळे GPT-6.1 Astra, फ्रंटियर मॉडेलचे नियोजित प्रक्षेपण रद्द केले.
कॅलिफोर्निया बुधवारी वाढला. ॲटर्नी जनरल रॉब बोन्टा यांनी AI सायबरसुरक्षा जोखमींबद्दल OpenAI ला एक तपासात्मक सबपोना जारी केला, रॉयटर्स आणि द गार्डियनने अहवाल दिला, हगिंग फेस उल्लंघनानंतर उघडलेल्या चौकशीला रेकॉर्डच्या औपचारिक कायदेशीर मागणीमध्ये रूपांतरित केले. राज्य नियामक यापुढे कंपनीच्या एजंट-सुरक्षा समस्यांचे अंतर्गत लेखांकन फेस व्हॅल्यूवर स्वीकारण्यास तयार नसल्याचा संकेत देते.
फेडरल दबाव समांतर तयार होत आहे. फेडरल ट्रेड कमिशनने या आठवड्यात OpenAI, Anthropic आणि इतर AI डेव्हलपर्सची ग्राहक उत्पादनाच्या जोखमींबद्दल एक व्यापक चौकशी उघडली, CNBC ने अहवाल दिला - एक चौकशी जी आता कॅलिफोर्निया आणि अलाबामामधील राज्य-स्तरीय तपासणी आणि रॉग-एजंट घटनांच्या काँग्रेसच्या छाननीसह ओव्हरलॅप झाली आहे.
OpenAI मधील एक परिचित प्लेबुक
ओपनएआयने कथित गळतीमुळे कर्मचाऱ्यांना बडतर्फ करण्याची ही पहिलीच वेळ नाही. 2024 मध्ये, कंपनीने कथित माहिती सामायिकरण केल्याबद्दल लिओपोल्ड अशेनब्रेनर आणि पावेल इझमेलोव्ह या संशोधकांना कामावरून काढून टाकले, द इन्फॉर्मेशन त्यावेळेस नोंदवले गेले — आणि फ्रंटियर लॅब अंतर्गत टीकाकारांना शिक्षा करतात की संरक्षण करतात यावरील वादाचा हा भाग एक संदर्भ बिंदू बनला. Aschenbrenner ने एक मेमो प्रसारित केला होता ज्यात असा युक्तिवाद केला होता की OpenAI ची सुरक्षा त्याच्या क्षमतांपेक्षा धोकादायकपणे मागे पडली आहे - या आठवड्याच्या टाइम्स रिपोर्टिंगमध्ये वर्णन केलेल्या तणावाचा एक धक्कादायक प्रतिध्वनी.
पुनरावृत्ती कंपनीच्या सार्वजनिक कथनाविरुद्ध कट करते. जेव्हा बाहेरील सुरक्षा संस्थांसोबत माहिती सामायिक केल्याबद्दल अंतर्गत टीकाकारांना डिसमिस केले जाते, तेव्हा समीक्षकांचा असा युक्तिवाद आहे की, व्यावहारिक परिणाम म्हणजे अंतर्गत असंतोषाचा प्रकार शांत करणे ज्यामुळे लवकर धोका निर्माण होतो. OpenAI ची स्थिती संकुचित आणि अधिक प्रक्रियात्मक आहे: समस्या, त्यात म्हटले आहे की, स्थापित चॅनेलच्या बाहेर संवेदनशील माहितीचे चुकीचे हाताळणी होते, व्हिसलब्लोइंग नाही. नावे किंवा दोन्ही बाजूंच्या तपशीलवार खात्याशिवाय, सार्वजनिक रेकॉर्ड अद्याप कोणते फ्रेमिंग फिट आहे हे ठरवू शकत नाही.
AI सुरक्षा निरीक्षणासाठी याचा अर्थ काय आहे
अभिसरण छाननी - राज्य सबपोना, फेडरल प्रोब, काँग्रेसचे स्वारस्य आणि रॉग-एजंट कथांचे वर्चस्व असलेले वृत्त चक्र - उद्योगाच्या ऐच्छिक सुरक्षा वचनबद्धता व्यावसायिक दबावाच्या संपर्कात टिकून राहू शकतात की नाही हे तपासत आहे. प्रत्येक नवीन घटना कायद्याच्या निर्मात्यांना दारुगोळा देते जे तर्क करतात की बाह्य निरीक्षणाने अंतर्गत पुनरावलोकनाची जागा घेतली पाहिजे आणि एजंट तैनाती त्यांच्या सभोवतालची नियंत्रणे ओलांडली आहेत की नाही हे विचारणाऱ्या गुंतवणूकदारांना.
एंटरप्राइझ ग्राहकांसाठी, अधिक तात्काळ प्रश्न कार्यान्वित आहे: ओपनएआय हे दाखवू शकते की त्याचे एजंट आता विश्वसनीय कंटेनमेंटमध्ये कार्यरत आहेत. कंपनीने कडक सुरक्षेचे वचन दिले आहे आणि म्हणते की तिने सुरक्षिततेमध्ये मोठ्या प्रमाणात गुंतवणूक केली आहे, परंतु GPT-6.1 Astra चे लाँच शेल्व्ह केलेले आहे आणि कॅलिफोर्नियाने कागदपत्रांची मागणी केल्यामुळे, पुराव्याचे ओझे कंपनीकडे वळले आहे.
तीन निर्गमन संशोधक किंवा कथित माहिती प्राप्त झालेल्या संस्थेने सार्वजनिकपणे भाष्य केले नाही. पुढील कर्मचारी कारवाई अपेक्षित आहे की नाही हे OpenAI ने सांगितले नाही.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
