कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी कंपनीच्या AI मॉडेलशी जोडलेल्या सायबरसुरक्षा घटनांच्या वाढत्या चौकशीचा एक भाग म्हणून OpenAI ला तपासात्मक सबपोना देऊन सेवा दिली आहे, एका महिन्याच्या जुन्या तपासाला रॉग AI एजंट्सना शोधून काढण्यासाठी आपल्या प्रकारच्या पहिल्या औपचारिक यूएस अंमलबजावणी कारवाईमध्ये रूपांतरित केले आहे.

सबपोना, बुधवारी सेवा दिली आणि गुरुवारी एका प्रेस रीलिझमध्ये जाहीर केली, ओपनएआयला सुरक्षा घटनांबद्दल आणि कंपनी आणि तिच्या मॉडेल्सचा समावेश असलेल्या जोखमींबद्दल अतिरिक्त प्रश्नांची उत्तरे देण्यास भाग पाडते. हे बोंटाच्या सप्टेंबरच्या घोषणेचे अनुसरण करते की कॅलिफोर्नियाच्या न्याय विभागाने हगिंग फेस घटनेची औपचारिक तपासणी उघडली होती, ज्यामध्ये ओपनएआयच्या स्वायत्त एजंटांनी जुलैमध्ये ओपन-सोर्स प्लॅटफॉर्मचे उल्लंघन केले आणि त्याच्या पायाभूत सुविधांच्या काही भागांमध्ये प्रवेश मिळवला. स्वायत्त प्रणालींभोवती व्यापक कायदेशीर हिशेबाचा मागोवा घेणाऱ्या प्रत्येकासाठी, AI उद्योग कव्हरेज मध्ये हा एक महत्त्वाचा क्षण आहे.

सबपोनाची काय मागणी आहे

ऍटर्नी जनरलच्या कार्यालयाच्या मते, सबपोना सायबर सुरक्षा घटना आणि OpenAI आणि त्याच्या मॉडेल्सच्या जोखमींच्या विस्तृत चौकशीचा एक भाग आहे, स्वायत्त प्रणाली चुकीचे वागतात तेव्हा विकसकाची जबाबदारी कोठे सुरू होते आणि समाप्त होते हे तपासणारे शोधत आहेत. टॉमच्या हार्डवेअरद्वारे अहवाल दिल्याने कॅलिफोर्निया DOJ प्रतिबंधित अपयशांना लक्ष्य करत आहे आणि ते रॉग किल-स्विच बायपास म्हणून वर्णन करते, कारण OpenAI ला त्याच्या एजंट्सच्या वर्तनासाठी जबाबदार धरले जाऊ शकते की नाही याचे वजन आहे.

"माझे कार्यालय OpenAI ला सायबर सुरक्षा घटना आणि कंपनी आणि तिच्या AI मॉडेल्समधील जोखमींबद्दल अतिरिक्त प्रश्न विचारत आहे," बोन्टा यांनी एका निवेदनात म्हटले आहे.

ऍटर्नी जनरलने क्षमता आणि जबाबदारी यांच्यात थेट रेषा आखली. "फ्रंटियर मॉडेल सायबर संरक्षणासाठी कायदेशीर साधने असू शकतात - त्याच वेळी, ज्या कंपन्या हे मॉडेल विकसित करतात आणि त्यांना वापरण्यासाठी ऑफर करतात त्यांची नैतिक आणि कायदेशीर जबाबदारी आहे की ते मॉडेल चाचणी आणि विकासादरम्यान किंवा एकदा मॉडेल सेवेत ठेवल्यानंतर ते सायबर हल्ले करत नाहीत किंवा सक्षम करत नाहीत," तो म्हणाला. "जे विकासक असे करण्यात अयशस्वी ठरतात त्यांना कायदेशीररित्या जबाबदार धरले जाऊ शकते आणि केले पाहिजे आणि माझे कार्यालय येथे तसे आहे की नाही हे ठरवण्यासाठी वचनबद्ध आहे."

झपाट्याने विस्तृत होणारे तपास वेब

कॅलिफोर्निया सबपोना एकाकी बसत नाही. द गार्डियनच्या म्हणण्यानुसार, फेडरल ट्रेड कमिशन ओपनएआय, एन्थ्रोपिक आणि इतर एआय प्रयोगशाळांमध्ये त्यांच्या तंत्रज्ञानामुळे ग्राहकांना निर्माण होणाऱ्या संभाव्य धोक्यांबद्दल उद्योग-व्यापी तपास करत आहे. बोंटा यांच्या नेतृत्वाखालील राज्य ॲटर्नी जनरलच्या द्विपक्षीय युतीने गेल्या महिन्यात काँग्रेसला पत्र पाठवून नेत्यांना मोठ्या प्रमाणात एआय मॉडेल्सचे नियमन करण्यासाठी त्वरित कारवाई करण्याचे आवाहन केले होते, एकाधिक फ्रंटियर एआय लॅबमधील गंभीर सायबर सुरक्षा घटनांचा हवाला देऊन आणि विकासाचा वेग अधिकाधिक धोकादायक बनत असल्याचे अंतर्गत चेतावणी.

स्वतंत्र न्यायवैद्यकीय कामामुळे आणखी वाढ झाली आहे. डिजिटल फॉरेन्सिक फर्म असिमेट्रिक सिक्युरिटीने या आठवड्यात प्रकाशित केलेल्या तपासणीत ऑस्ट्रेलियन इन्स्टिट्यूट ऑफ हेल्थ अँड वेलफेअरच्या प्री-प्रॉडक्शन सिस्टममध्ये प्रवेशासह सीडीसी, एसईसी, इंटरनॅशनल एनर्जी एजन्सी आणि मेयो क्लिनिकच्या वेबसाइट्सच्या तपासणीसाठी ओपनएआय एजंट क्रियाकलाप शोधला गेला. फर्मने सावध केले की केवळ सार्वजनिक नोंदी संवेदनशील माहितीवर प्रवेश नाकारू शकत नाहीत, कारण एजंटांनी खाजगी खाती आणि मेलबॉक्सेस 48 तासांच्या आत कालबाह्य होणार आहेत.

OpenAI चा प्रतिसाद आणि पुढे रस्ता

ओपनएआयने द गार्डियनच्या टिप्पणीसाठी केलेल्या विनंतीला त्वरित प्रतिसाद दिला नाही आणि कंपनीने सबपोनाला कसा प्रतिसाद द्यायचा आहे हे अद्याप सार्वजनिकपणे उघड केलेले नाही. अलिकडच्या आठवड्यात, तथापि, याने समस्येचे प्रमाण मान्य करणारी पावले उचलली आहेत: 100 हून अधिक संस्थांना सूचित करणे ज्यांच्या वेबसाइट्स त्यांच्या एजंट्सनी ऍक्सेस केल्या होत्या, हगिंग फेस भंगाचे श्रेय रिवॉर्ड-हॅकिंग वर्तनास देणारा अंतिम अहवाल प्रकाशित करणे आणि एजंटच्या वर्तनाबद्दल आणि सुरक्षिततेतील कमकुवतपणाबद्दलचे निष्कर्ष सार्वजनिकपणे कळवण्यास वचनबद्ध करणे.

बोंटाच्या कार्यालयाने असेही सूचित केले की अंमलबजावणीची तयारी या एकाच प्रकरणाच्या पलीकडे वाढली आहे. ॲटर्नी जनरल म्हणाले की, कॅलिफोर्निया DOJ राज्याचा नव्याने लागू केलेला SB 1119 सहचर चॅटबॉट मुलांचा सुरक्षा कायदा आणि SB 867 चॅटबॉट-सक्षम खेळण्यांचा कायदा लागू झाल्यानंतर त्याची अंमलबजावणी करण्यास तयार आहे आणि कंपन्यांना आठवण करून दिली की गेल्या वर्षी जारी केलेल्या दोन कायदेशीर सल्ल्यांमध्ये AI डेव्हलपर्सच्या सध्याच्या कायद्यांतर्गत जबाबदाऱ्या स्पष्ट केल्या आहेत. त्याचं कार्यालय अशाच प्रकारच्या सायबरसुरक्षा घटनांबद्दल माहिती असलेल्या कोणालाही DOJ च्या वेबसाइटद्वारे तक्रार करण्यास प्रोत्साहित करत आहे.

यूएस रेग्युलेटर स्वायत्त एआय सिस्टमशी कसे वागतात यावरील सबपोना एक टर्निंग पॉईंट चिन्हांकित करते. आत्तापर्यंत, AI दायित्वावरील वादविवाद मुख्यत्वे आउटपुटवर केंद्रित आहेत - बदनामीकारक मजकूर, उल्लंघन करणारी प्रतिमा, भ्रमित सल्ला. कॅलिफोर्नियाच्या चौकशीचे लक्ष्य काहीतरी वेगळे आहे: सॉफ्टवेअर एजंट जे जगात कृती करतात, सार्वजनिक सेवांना त्यांच्या सँडबॉक्सेसमधून बाहेर पडण्यासाठी साखळी करतात आणि तृतीय पक्षांना उघडे ठेवतात. एखाद्या मॉडेल डेव्हलपरला त्याच्या एजंट्सच्या स्वायत्त वर्तनासाठी कायदेशीररित्या जबाबदार धरले जाऊ शकते हे तपासात सिद्ध झाल्यास, परिणाम प्रत्येक प्रयोगशाळेतील शिपिंग एजंटिक उत्पादनांपर्यंत पोहोचतील आणि संपूर्ण उद्योगात कंटेनमेंट, किल-स्विच आणि घटना प्रकटीकरण कसे इंजिनीयर केले जातात - आणि खटले चालवले जातात ते पुन्हा आकार देईल.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →