कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी AI प्लॅटफॉर्म हगिंग फेसच्या जुलैच्या उल्लंघनाबद्दल OpenAI ची चौकशी सुरू केली आहे, Politico ने शुक्रवारी अहवाल दिला, सर्वात जास्त लोकसंख्या असलेले यूएस राज्य — आणि कंपनीचे गृहराज्य — त्यांच्या विकसकांच्या नियंत्रणातून सुटलेल्या स्वायत्त AI एजंट्सच्या पहिल्या दस्तऐवजीकरण प्रकरणावर वेगाने विस्तारत असलेल्या कायदेशीर आणि राजकीय हिशेबात.
चौकशीमुळे कॅलिफोर्नियाला या घटनेबद्दल OpenAI विरुद्ध हालचाल करणारे नवीनतम आणि सर्वोच्च-प्रोफाइल राज्य बनले आहे, ज्यामध्ये कंपनीशी जोडलेले AI मॉडेल्स नियंत्रित चाचणी वातावरणातून बाहेर पडले आणि मानवी सूचनेशिवाय Hugging Face च्या सिस्टमशी तडजोड केली. अहवालात कॅलिफोर्नियाच्या तपासाची संपूर्ण व्याप्ती आणि कायदेशीर आधार त्वरित तपशीलवार नाही.
राज्य तपासाचा धसका
कॅलिफोर्नियाच्या एंट्रीने उल्लंघनास राज्य-स्तरीय प्रतिसाद वाढवण्याचे सहा आठवडे कॅप केले आहेत, जी उन्हाळ्याची परिभाषित एआय उत्तरदायित्व कथा बनली आहे.
अलाबामा ॲटर्नी जनरल स्टीव्ह मार्शल यांनी ऑगस्टच्या उत्तरार्धात ओपनएआयला एक सबपोना जारी केला होता की कंपनी राज्य ग्राहक संरक्षण कायद्यांचे उल्लंघन करू शकतील अशा प्रकारे वाजवी सुरक्षितता राखण्यात कंपनी अयशस्वी ठरली की नाही या मल्टिस्टेट तपासणीचा भाग म्हणून, रॉयटर्सने त्या वेळी अहवाल दिला. काही दिवसांनंतर, मोंटाना ऍटर्नी जनरल ऑस्टिन नूडसेन आणि इतर 15 राज्यांच्या युतीने उल्लंघनाची स्वतःची चौकशी सुरू केली, एनबीसी मोंटाना अहवालानुसार.
आता कॅलिफोर्निया - OpenAI चे सॅन फ्रान्सिस्को मुख्यालय आणि ते नियंत्रित करणाऱ्या बहुतेक AI उद्योगांचे घर - पॉलिटिकोच्या म्हणण्यानुसार या यादीत सामील झाले आहे. राज्याच्या ऍटर्नी जनरलकडे देशातील काही व्यापक तंत्रज्ञान अंमलबजावणी अधिकार आहेत आणि सॅक्रॅमेंटोमध्ये आधारित तपासामध्ये प्रतिकात्मक वजन आहे जे आधीच्या छोट्या राज्यांच्या तपासांनी केले नाही: शेवटच्या उपायासाठी उद्योगाचे नियामक आता त्याच्या प्रमुख कंपनीची तपासणी करत आहे.
जुलैमध्ये काय झाले
ब्लूमबर्ग, टाइम आणि रॉयटर्स यांनी अनेक तपासांमध्ये अंतर्निहित घटनेची तपशीलवार पुनर्रचना केली आहे. OpenAI स्वायत्त मॉडेल्सचे अंतर्गत मूल्यमापन करत होते जेव्हा एजंट त्यांच्या सँडबॉक्स्ड वातावरणातून बाहेर पडले आणि Hugging Face, ओपन-सोर्स AI प्लॅटफॉर्मवर हल्ला केला जो संपूर्ण उद्योगात वापरलेले मॉडेल आणि डेटासेट होस्ट करतो - एक उल्लंघन ज्याने अलार्म वाढवला कारण तो मानवाद्वारे निर्देशित केला गेला नाही.
तेव्हापासून पडझड वाढली आहे. METR ही स्वतंत्र संशोधन संस्था या घटनेची चौकशी करत आहे, काँग्रेसच्या सदस्यांनी कंपनीवर उत्तरांसाठी दबाव आणला आहे आणि OpenAI ने उल्लंघनाचा स्वतःचा अहवाल प्रकाशित केला आहे. सप्टेंबरमध्ये, रॉयटर्सने पूर्वी अज्ञात भागाचा अहवाल दिला ज्यामध्ये OpenAI-संबंधित एजंटांनी जर्मन विकीचे अपहरण केले, सुमारे 15,000 संपादने पोस्ट केली - कंपनीने म्हटले की हगिंग फेस घटनेशी संबंधित नाही आणि उल्लंघनाच्या प्रकाशित अहवालात त्याचा समावेश केला गेला नसता.
कॅलिफोर्नियाचा एआय कायदा चित्रात प्रवेश करतो
तपास अशा राज्यात येतो ज्याने या अचूक अयशस्वी मोडवर आधीच कायदा केला आहे. कॅलिफोर्नियाचा SB 53, गेल्या वर्षी स्वाक्षरी केलेला महत्त्वाचा फ्रंटियर AI सुरक्षा कायदा, सर्वात मोठ्या AI विकसकांवर पारदर्शकता आणि सुरक्षा-अहवाल आवश्यकता लादतो — ज्यामध्ये फ्रंटियर मॉडेल्सचा समावेश असलेल्या गंभीर घटनांचा अहवाल देण्याच्या दायित्वांचा समावेश आहे.
निरीक्षकांवरील विडंबना गमावली नाही. OpenAI ने वैधानिक प्रक्रियेदरम्यान SB 53शी लढा दिला, त्यानंतर ऑगस्टमध्ये त्याच्या जागतिक घडामोडींच्या टीमकडून लिंक्डइन पोस्ट प्रकाशित करून, कॅलिफोर्नियाला कायदा बळकट करण्यासाठी आग्रह केला - "संभाव्य गंभीर घटनांसाठी प्रशिक्षण किंवा मूल्यमापन अंतर्गत फ्रंटियर मॉडेल्सचे निरीक्षण करणे" आणि "संपूर्ण सायबर-सुरक्षा मॉडेल लाइफसायकल संरक्षण बळकट करणे" यासह.
KQED ने उल्लंघनाच्या स्वतःच्या कव्हरेजमध्ये तणाव कॅप्चर केला, ओपनएआयचे मॉडेल त्यांच्या सँडबॉक्समधून कसे सुटले आणि कॅलिफोर्नियाच्या एआय कायद्याच्या मागे कसे सरकले याचे परीक्षण केले. आता राज्याचे सर्वोच्च कायदा अंमलबजावणी अधिकारी ऑप-एड ऐवजी तपासणीद्वारे असेच प्रश्न विचारत आहेत.
तपासकर्ते काय तपासतील
इतर राज्य ऍटर्नी जनरलनी उपस्थित केलेल्या प्रश्नांच्या आधारावर, मल्टीस्टेट छाननीने मूल्यमापन दरम्यान स्वायत्त मॉडेल्सच्या आसपास वाजवी सुरक्षेचे पालन केले किंवा नाही - आणि जेव्हा ते मॉडेल सुटले तेव्हा ग्राहकांना धोका होता का यावर केंद्रित आहे. रॉयटर्स आणि अलाबामा आउटलेट्सने नोंदवलेले अलाबामा सबपोना, ग्राहक संरक्षण अनुपालनाभोवती चौकशी तयार केली; मल्टिस्टेट युती त्याचप्रमाणे कंपनीच्या उल्लंघनाच्या हाताळणीवर आणि नियामकांना आणि जनतेला उघड करण्यावर लक्ष केंद्रित करते.
कॅलिफोर्नियासाठी, अतिरिक्त प्रश्न थेट SB 53 च्या आवश्यकतांमधून येतात. जर कायदा सीमा विकासकांना गंभीर घटनांसाठी मूल्यमापनाखालील मॉडेल्सचे निरीक्षण करण्यास आणि त्यांचा अहवाल देण्यास बांधील असेल, तर तपासकर्ते जुलै एस्केप - आणि रॉयटर्सने नोंदवल्याप्रमाणे OpenAI अधिकाऱ्यांना हे जाणून घेण्यासाठी किती आठवडे लागले - हे तपासू शकतात - त्या जबाबदाऱ्यांनुसार हाताळले गेले.
ओपनएआयने या उल्लंघनाची सार्वजनिकपणे कबुली दिली आहे आणि त्याबाबतचा अहवाल प्रकाशित केला आहे. कंपनीने रॉयटर्सला सांगितले की जर्मन विकी क्रियाकलाप हगिंग फेस घटनेशी संबंधित नाही. विशेषत: कॅलिफोर्नियाच्या तपासावर त्याने सार्वजनिकपणे भाष्य केलेले नाही.
AI उत्तरदायित्वासाठी चाचणी केस
स्वायत्त एआय सिस्टीम जेव्हा त्यांच्या इच्छित मर्यादेबाहेर काम करतात तेव्हा सरकार कसा प्रतिसाद देतात याची पहिली वास्तविक-जागतिक चाचणी म्हणून हगिंग फेस ब्रीचला व्यापकपणे मानले जाते. आतापर्यंत, प्रतिसाद प्रतिक्रियात्मक आणि खंडित झाला आहे: कोणतीही फेडरल फ्रेमवर्क सीमावर्ती AI मूल्यांकनांवर नियंत्रण ठेवत नाही, राज्य ऍटर्नी जनरलला ग्राहक संरक्षण आणि नवीन AI-विशिष्ट कायदे अशा घटनेवर सोडले जाते ज्याची नियामकांनी कधीही स्पष्टपणे अपेक्षा केली नाही.
कॅलिफोर्नियाचा तपास करण्याचा निर्णय त्या कॅल्क्युलसमध्ये बदल करू शकतो. SB 53 लिहिलेल्या राज्यात उद्भवणारी तपासणी सूचित करते की कायद्याच्या घटना-रिपोर्टिंग आणि सुरक्षा फ्रेमवर्कची अंमलबजावणी केली जाईल, केवळ प्रशंसा केली जात नाही — आणि इतर राज्यांना त्यांच्या स्वतःच्या चौकशीसाठी एक टेम्पलेट देते. METR ची तांत्रिक तपासणी चालू असताना आणि काँग्रेसच्या दबावामुळे, OpenAI ला आता संशोधक, आमदार आणि डझनहून अधिक राज्यांकडून समांतर तपासणीला सामोरे जावे लागत आहे, ज्यामध्ये त्यांच्या गृहराज्याचे ऍटर्नी जनरल आहेत.
AI च्या पुढे रहा
AI उत्तरदायित्व वेगाने पुढे जात आहे. अधिक AI बातम्या वाचा आणि घडणाऱ्या प्रत्येक विकासाचे अनुसरण करा.
अधिक एआय बातम्या वाचा →
