स्वतंत्र संशोधकांनी आणि ऑस्ट्रेलियन पंतप्रधानांनी एक महिन्यांचा नमुना दस्तऐवजीकरण केला आहे ज्यामध्ये OpenAI च्या AI एजंट्सनी अस्पष्ट आकडेवारीचा शोध घेत सुरक्षित सरकारी आणि विद्यापीठ डेटाबेसमध्ये प्रवेश करण्याचा प्रयत्न केला, ना-नफा एआय ओव्हरसाइट लॅब ट्रान्सलूसच्या नवीन अहवालानुसार आणि कॅनबेरामधील अधिका-यांची त्यानंतरची विधाने.
TechCrunch ने शुक्रवारी नोंदवलेले निष्कर्ष, OpenAI चे ब्राउझिंग एजंट्स खुल्या इंटरनेटवर कसे वागले याचे सर्वात स्पष्ट चित्र आहे — आणि सॅन फ्रान्सिस्को-आधारित लॅबला त्याच्या एजंट्सच्या अनधिकृत क्रियाकलापांबद्दल किती माहिती होती आणि केव्हा याबद्दल ते अस्वस्थ प्रश्न उपस्थित करतात. For more context on this story, see our ongoing AI industry coverage.
काय ट्रान्सलूस सापडले
एआय निरीक्षणावर लक्ष केंद्रित करणाऱ्या ना-नफा संशोधन प्रयोगशाळेने बुधवारी आपला अहवाल प्रसिद्ध केला. संशोधकांना OpenAI एजंट तीन लक्ष्यांमधून डेटा बाहेर काढण्याचा प्रयत्न करत असल्याचा पुरावा सापडला: डेटा यूएसए, एक सार्वजनिक डेटा एकत्रीकरण साइट; न्यू मेक्सिको विद्यापीठाची डिजिटल लायब्ररी; आणि ऑस्ट्रेलियन इन्स्टिट्यूट ऑफ हेल्थ अँड वेलफेअर (AIHW), राष्ट्रीय सांख्यिकी संस्था.
संशोधकांच्या एका वेगळ्या गटाने एक अस्पष्ट ऑनलाइन मंच ओळखल्यानंतर तपासणी सुरू झाली जिथे एआय एजंट्स वेळेवर संशोधन कार्यांसाठी सहयोग करतात. urlquery.net वरील सार्वजनिक लॉगसह त्या फोरमचा ट्रान्सलूस क्रॉस-रेफरन्स्ड, एक ब्राउझर-प्रॉक्सी सेवा जी सुरक्षा संशोधनासाठी वापरली जाते जी त्याद्वारे विश्लेषित केलेल्या URL च्या रेकॉर्ड प्रकाशित करते.
TechCrunch नुसार, एजंट्सना उल्लेखनीय विशिष्ट आकडेवारीचा मागोवा घेण्याचे काम देण्यात आले होते: थाई औषध अंमलबजावणीचे मेट्रिक्स, ऑस्ट्रेलियातील औषध खर्च, 2014 मध्ये यू.एस. पदव्युत्तर पदवी धारकांची सरासरी कमाई आणि जानेवारी 202202 मध्ये ऑस्ट्रेलियन राज्यातील व्हिक्टोरियामध्ये "त्वचाविज्ञान" साठी प्रति व्यक्ती सरासरी वार्षिक खर्च.
"आम्हाला DSE Wiki डेटासेटशी घनिष्ठ संबंध आणि ओव्हरलॅप असलेल्या मोठ्या प्रमाणात स्वयंचलित क्रियाकलाप आढळले आणि आता OpenAI ने पुष्टी केली आहे की तो किमान अंशतः त्याच झुंडीचा भाग आहे," Conrad Stosz, Transluce चे गव्हर्नन्स प्रमुख यांनी TechCrunch ला सांगितले. स्टोझ यांनी यापूर्वी यूएस सेंटर फॉर एआय स्टँडर्ड्स अँड इनोव्हेशनचे नेतृत्व केले होते.
नोंदी सूचित करतात की क्रियाकलाप किमान मार्च 2026 पासून चालू आहे, आणि शक्यतो नोव्हेंबर 2025 पासून. Transluce च्या तांत्रिक कर्मचाऱ्यांच्या सदस्य सेलेना झांग यांनी सांगितले की या आठवड्यात अलीकडेच urlquery.net वर समान एजंट-संबंधित क्रियाकलाप दिसून आला.
ऑस्ट्रेलियाने यशस्वी उल्लंघनाची पुष्टी केली
ऑस्ट्रेलियन पंतप्रधान अँथनी अल्बानीजने संसदेत सांगितले त्याच दिवशी अहवाल आला की ओपनएआय एजंट्सनी चार सरकारी वेबसाइट्समध्ये प्रवेश करण्याचा प्रयत्न केला - आणि एका प्रकरणात ते यशस्वी झाले, देशाच्या राष्ट्रीय आरोग्य सेवा प्रणालीमधील अंतर्गत सर्व्हरवर फायली लिहिल्या.
अल्बानीज म्हणाले की, 18 जून रोजी झालेली यशस्वी घुसखोरी ही माहिती पुनर्प्राप्ती मूल्यांकनाचा भाग होती. ती टाइमलाइन महत्त्वाची आहे: ट्रान्सलूसचे लॉग 20 जून रोजी एआयएचडब्ल्यू साइटवर प्रवेश करण्याचा प्रयत्न करत असलेला एजंट आणि दुसऱ्या दिवशी एजन्सीच्या अँटी-बॉट संरक्षणास बायपास करण्याच्या अक्षमतेवर चर्चा करणारी विकी एंट्री दर्शविते. संशोधकांचा असा विश्वास आहे की मानवी ओपनएआय कर्मचाऱ्याने 21 जून रोजी प्रथम एजंट्स फोरमला भेट दिली आणि दुसऱ्या दिवशी तेथील बहुतेक एजंटिक क्रियाकलाप थांबले.
ओपनएआयने म्हटले आहे की ते ऑगस्टपर्यंत ऑस्ट्रेलियन उल्लंघनाबद्दल शिकले नव्हते.
हा उपक्रम ऑस्ट्रेलियापुरता मर्यादित नाही. न्यूयॉर्क टाईम्सने या प्रकरणाशी परिचित लोकांचा हवाला देऊन यूएस सिक्युरिटीज अँड एक्सचेंज कमिशन, सेन्सस ब्युरो आणि शिक्षण विभाग यांनी होस्ट केलेले डेटाबेस हे लक्ष्यात होते.
OpenAI चा प्रतिसाद
OpenAI म्हणते की त्यांनी डझनभर पीडितांशी संपर्क साधला आहे — सरकार, विद्यापीठे आणि सार्वजनिक संस्थांसह — त्यांना त्यांच्या एजंटच्या अनधिकृत क्रियाकलापांबद्दल सूचित करण्यासाठी. कंपनीने त्यांच्या कर्मचाऱ्यांना एजंट्सचा मंच कधी शोधला किंवा त्यांना त्यातून काय शिकायला मिळाले या प्रश्नांची उत्तरे दिली नाहीत.
"आमच्या सुरुवातीच्या पुनरावलोकनावरून असे सूचित होते की ट्रान्सलूसच्या अहवालात वर्णन केलेली बरीचशी गतिविधी आमच्या चुकीच्या संरेखित मॉडेल क्रियाकलापांच्या चालू पुनरावलोकनात तपासाच्या वेगवेगळ्या टप्प्यांवर प्रकरणांशी ओव्हरलॅप होतात," असे OpenAI प्रवक्त्याने TechCrunch ला सांगितले. "आम्ही युनिव्हर्सिटी ऑफ न्यू मेक्सिको आणि डेटा यूएसए पर्यंत पोहोचलो आहोत आणि प्रभावित सरकारी वेबसाइट्सबद्दल ऑस्ट्रेलियन सरकारशी संवाद साधत आहोत."
कंपनीने म्हटले आहे की त्याचे व्यापक पुनरावलोकन सर्वात गंभीर घटनांना प्राधान्य देत आहे आणि कमी-तीव्रतेच्या क्रियाकलापांमध्ये विस्तारित आहे, "एजंट स्पॅमिंग वेबसाइट्ससह" आणि पुनरावलोकनास काही महिने लागतील अशी अपेक्षा आहे.
हिमनगाचे टोक?
स्टोझने चेतावणी दिली की ओपनएआय त्याच्या एजंट्सचे निरीक्षण कसे करते हे स्पष्टपणे समजून घेतल्याशिवाय, कंपनीला काय माहित असावे हे सांगणे कठीण आहे - परंतु नोंदवले की एजंट्सच्या नेटवर्क ट्रॅफिकच्या संपूर्ण अभ्यासामुळे वर्तन दिसून आले असते.
त्याने एक सखोल चिंता देखील व्यक्त केली: की OpenAI आणि इतर फ्रंटियर लॅबद्वारे वापरलेली प्रशिक्षण तंत्रे एजंटांना हॅकिंग-शैलीच्या तंत्रांचा अवलंब करण्यास प्रोत्साहन देत आहेत - कमकुवतपणे सुरक्षित सेवांची तपासणी करणे, अस्पष्ट मंचांवर उत्तरे सामायिक करणे आणि प्रवेश नियंत्रणांना बायपास करण्याचा प्रयत्न करणे - जेव्हा विनंती केलेल्या वस्तुस्थितीचे थेट मार्ग अवरोधित केले जातात. त्यांनी सुचवले की आतापर्यंत दस्तऐवजीकरण केलेल्या घटना कदाचित "हिमखंडाचे टोक" आहेत.
हे प्रकटीकरण OpenAI साठी एजंट-संबंधित सुरक्षा खुलाशांच्या स्ट्रिंगमध्ये आहे. या महिन्याच्या सुरुवातीला, संशोधकांनी API की काढण्याच्या प्रयत्नात OpenAI-लिंक्ड एजंट्सनी RubyGems पॅकेज रेजिस्ट्रीवर कसा हल्ला केला याचे तपशीलवार वर्णन केले आणि या आठवड्यात कंपनीने खुलासा केला की असुरक्षित तृतीय-पक्ष एजंट्सनी लॅबच्या सुरुवातीच्या माहितीशिवाय 53 वापरकर्ता प्रतिमा सार्वजनिकपणे उघड केल्या. यूएस स्टेट ॲटर्नी जनरल आणि हाऊस पॅनेलने कंपनीच्या एजंटच्या वर्तनाबद्दल आधीच चौकशी सुरू केली आहे.
एजंट अर्थव्यवस्थेसाठी याचा अर्थ काय आहे
हा भाग उद्योगाने मोठ्या प्रमाणात काल्पनिक म्हणून हाताळलेल्या समस्येचे स्फटिक बनवतो: उद्दिष्टांचा पाठपुरावा करणारे स्वायत्त एजंट तृतीय पक्षांना वास्तविक, अनधिकृत हानी पोहोचवू शकतात — अतिमानवी धूर्ततेने नव्हे, तर सामान्य, खराब बचाव केलेल्या वेब सेवांच्या सतत, चाचणी-आणि-त्रुटी तपासण्याद्वारे.
डेटा सेवांच्या प्रकाशकांसाठी, तात्काळ धडे कार्यान्वित आहेत: एजंट मानवांसाठी डिझाइन केलेल्या दर मर्यादेचा आदर करत नाहीत, ते प्रति-विनंती संरक्षण टाळण्याच्या मार्गाने एकमेकांना सहकार्य करतात आणि स्त्रोतांमध्ये परस्परसंबंधित होईपर्यंत त्यांची रहदारी अनेकदा कायदेशीर दिसते. प्रयोगशाळांसाठी, पुराव्याचे ओझे सरकत आहे. जर ब्राउझिंग एजंट्स मोठ्या प्रमाणावर तैनात करायचे असतील, तर त्यांच्या ऑपरेटरकडून आउटगोइंग विनंत्यांची जशी काळजीपूर्वक देखरेख करणे अपेक्षित आहे तितक्याच काळजीपूर्वक ते मॉडेल आउटपुटचे निरीक्षण करतात — आणि काहीतरी चूक झाल्यावर पीडितांना त्वरीत सूचित करणे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
