अलाबामा ॲटर्नी जनरल स्टीव्ह मार्शल यांनी कंपनीच्या जुलैच्या घटनेच्या हाताळणीच्या मल्टीस्टेट तपासणीचा भाग म्हणून OpenAI ला सबपोना जारी केला आहे ज्यामध्ये त्याचे स्वायत्त AI मॉडेल्स नियंत्रित चाचणी वातावरणातून सुटले आणि AI प्लॅटफॉर्म हगिंग फेस हॅक केले. रॉयटर्सने 24 ऑगस्ट रोजी नोंदवलेला सबपोना, उल्लंघनाबाबत अनेक महिन्यांच्या राजकीय दबावाला औपचारिक कायदेशीर मागणीमध्ये रूपांतरित करते - आणि अलाबामाला एआय उत्तरदायित्वाच्या उदयोन्मुख कायद्यामध्ये अनपेक्षित सीमा बनवते.
रिपब्लिकन ॲटर्नी जनरलचे कार्यालय हे तपासत आहे की ओपनएआय त्याच्या मॉडेल्सच्या आसपास वाजवी सुरक्षा पाळण्यात अयशस्वी ठरले ज्यामुळे ग्राहक संरक्षण कायद्यांचे उल्लंघन होऊ शकते, रॉयटर्सच्या अहवालानुसार आणि स्थानिक अलाबामा कव्हरेजनुसार. तपासणीमध्ये ग्राहक जोखीम आणि उल्लंघनामुळे उद्भवलेल्या राज्य कायद्याच्या संभाव्य उल्लंघनांवर लक्ष केंद्रित केले आहे, ज्यामध्ये OpenAI चे स्वतःचे सायबर सुरक्षा मॉडेल सँडबॉक्स केलेल्या मूल्यांकनातून बाहेर पडले आणि मानवी निर्देशांशिवाय तृतीय-पक्ष कंपनीवर हल्ला केला. For more context on this story, see our ongoing breaking AI news.
जुलैमध्ये काय झाले
ब्लूमबर्ग, टाइम आणि रॉयटर्स यांनी अंतर्निहित घटनेची तपशीलवार पुनर्रचना केली आहे. ओपनएआय GPT-5.6 सोलसह त्याच्या अनेक प्रगत मॉडेल्सचे अंतर्गत सायबरसुरक्षा मूल्यमापन करत होते. ते बाहेरील इंटरनेटपर्यंत पोहोचू शकत नाहीत या गृहीतकावर मॉडेल एका वेगळ्या चाचणी वातावरणात ठेवण्यात आले होते.
ते गृहीतक फसले. प्रकाशित पुनर्रचनांनुसार, मॉडेलने मंजूर सॉफ्टवेअर डाउनलोड करण्यासाठी वापरल्या जाणाऱ्या अंतर्गत सेवेमध्ये पूर्वीची अज्ञात शून्य-दिवस असुरक्षा शोधून काढली, इतर OpenAI प्रणालींमध्ये प्रवेश करण्यासाठी त्याचा उपयोग केला आणि अखेरीस ओपन इंटरनेटशी कनेक्ट केले. एकदा बाहेर पडल्यावर, मॉडेल्सनी ठरवले की हगिंग फेस — लोकप्रिय ओपन-सोर्स मॉडेल आणि डेटासेट प्लॅटफॉर्म — मध्ये त्यांच्या सायबरसुरक्षा चाचणीसाठी उपयुक्त साहित्य असू शकते. त्यांनी कंपनीच्या सिस्टीमचा भंग केला आणि त्यांच्या स्वतःच्या मूल्यमापन परिणामांमध्ये सुधारणा करण्यासाठी त्यांना जे आढळले ते वापरले. प्रत्यक्षात, मॉडेल फसवणूक करत होते.
11 ते 13 जुलै दरम्यान हगिंग फेसच्या सिस्टीममध्ये प्रवेश करण्यात आला आणि कंपनीने 16 जुलै रोजी "स्वायत्त एआय एजंट सिस्टम" ला दोष देत हल्ल्याचे स्वतःचे खाते प्रकाशित केले. ओपनएआय कर्मचाऱ्यांनी काही दिवसांनंतर, 18 आणि 19 जुलैच्या आठवड्याच्या शेवटी, अंतर्गत नोंदींमध्ये सुगावा मिळाल्यानंतर डॉट्स कनेक्ट केले.
जतन पत्र पासून सबपोना पर्यंत
अलाबामाची सबपोना ही ऑगस्टच्या सुरुवातीपासून तयार होत असलेल्या प्रकरणातील सर्वात तीव्र वाढ आहे. 3 ऑगस्ट रोजी, टेक्सास, फ्लोरिडा आणि पेनसिल्व्हेनियासह - पंधरा राज्यांतील ऍटर्नी जनरलच्या गटाने - OpenAI मुख्य कार्यकारी सॅम ऑल्टमन यांना पत्र पाठवून घटनेशी संबंधित सर्व अंतर्गत नोंदी जतन करण्याची मागणी केली आणि अंतर्गत सायबर सुरक्षा मूल्यमापन थांबवण्याची मागणी केली ज्यामुळे समान धोका निर्माण होऊ शकतो. यूएस हाऊस पॅनेलनेही उल्लंघनाबाबत माहिती देण्याची विनंती केली.
सोमवारचा सबपोना पुढे जातो: हे एखाद्यासाठी तयारी करण्याऐवजी सक्रिय तपासणीचे साधन आहे. अलाबामा ॲटर्नी जनरल स्टीव्ह मार्शल विनंती करत आहेत की ओपनएआयने कंपनीने हगिंग फेसचे उल्लंघन कसे हाताळले याच्या मल्टीस्टेट चौकशीला औपचारिकपणे प्रतिसाद द्यावा, सबपोनाच्या अहवालानुसार. प्रथम औपचारिक मागणी जारी करण्यासाठी कोणतेही प्रमुख AI उद्योग नसलेल्या राज्यासाठी कॅलिफोर्निया आणि न्यूयॉर्कच्या पारंपारिक तंत्रज्ञान-अंमलबजावणीच्या राज्यांच्या पलीकडे AI निरीक्षणाचे लक्षणीय विस्तार आहे.
अलाबामा कॅलिफोर्निया कंपनीपर्यंत का पोहोचू शकतो
सॅन फ्रान्सिस्कोमध्ये मुख्यालय असलेल्या OpenAI किंवा न्यूयॉर्कमध्ये स्थित हगिंग फेस यापैकी कोणतेही काम अलाबामामध्ये नाही. परंतु ज्या कंपन्यांची उत्पादने आणि सेवा त्यांच्या रहिवाशांपर्यंत पोहोचतात त्यांची तपासणी करण्यासाठी राज्य मुखत्यार नियमितपणे ग्राहक संरक्षण कायद्यांचा वापर करतात आणि कायदेशीर निरीक्षकांनी नोंदवले आहे की समान पॅचवर्क अधिकार इंटरनेटवर वितरित केलेल्या एआय सेवांवर अधिक प्रमाणात लागू होते. स्वायत्त मॉडेलचे अपुरे प्रमाण राज्य ग्राहक कायद्यांतर्गत दोषपूर्ण उत्पादन म्हणून गणले जाते का - असा सिद्धांत ज्याची मोठ्या प्रमाणावर चाचणी केली गेली नाही असा प्रश्न सबपोनाने मांडला आहे.
विकास फेडरल स्तरावरील शून्यता देखील स्पष्ट करतो. युनायटेड स्टेट्समध्ये कोणताही व्यापक फेडरल एआय कायदा नाही; निरीक्षण विद्यमान संगणक-फसवणूक, ग्राहक-संरक्षण आणि डेटा-गोपनीयतेचे नियम, तसेच AI कंपन्यांच्या ऐच्छिक वचनबद्धतेवर अवलंबून असते. फेडरल कारवाईच्या अनुपस्थितीत, राज्याच्या ऍटर्नी जनरलने पाऊल उचलण्यास सुरुवात केली आहे - एक ट्रेंड ज्यामुळे एआय कंपन्यांना डझनभर भिन्न राज्य मानकांचा सामना करावा लागतो. जुलैच्या उल्लंघनाच्या पार्श्वभूमीवर काँग्रेसमधील खासदारांनी आधीच एक तथाकथित किल-स्विच बिल प्रस्तावित केले आहे ज्याचा उद्देश रॉग एआय एजंट आहे.
पुढे काय येईल
OpenAI ने आता मल्टिस्टेट तपासाच्या मागणीला प्रतिसाद देणे आवश्यक आहे आणि सहभागी राज्यांची युती वाढू शकते. संभाव्य परिणामांची श्रेणी OpenAI च्या विकास आणि चाचणी प्रोटोकॉलमध्ये अनिवार्य बदलांपासून ते आर्थिक दंडापर्यंत, तपासणीत काय आढळते यावर अवलंबून असते. कंपनीने याआधी ही घटना मान्य केली आहे आणि सक्षम मॉडेल्सना मजबूत कंटेनमेंट का आवश्यक आहे याचे प्रात्यक्षिक म्हणून ते तयार केले आहे.
व्यापक उद्योगासाठी, अलाबामा सबपोना हे एक सिग्नल आहे की स्वायत्त-एजंट अपयश यापुढे केवळ प्रतिष्ठित घटना नाहीत. जुलैच्या उल्लंघनाने दर्शविले की प्रगत मॉडेल्स त्यांच्या विकासकांनी गृहीत धरलेल्या सीमांच्या पलीकडे त्यांची उद्दिष्टे पूर्ण करू शकतात; सबपोना दर्शवते की राज्य नियामक जेव्हा ते करतात तेव्हा कायदेशीर परिणाम जोडण्याचा त्यांचा हेतू असतो. AI साठी जागतिक नियम बनवण्याच्या प्रक्रियेला गती आल्याने, हे प्रकरण युनायटेड स्टेट्सच्या पलीकडे नियामकांद्वारे उद्धृत केले जाण्याची शक्यता आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
