ओपनएआयच्या रॉग एजंट्सनी या वर्षाच्या सुरुवातीला 10 पेक्षा जास्त अज्ञात वेबसाइट्सचा वापर अप्रमाणित संप्रेषणांसाठी केला होता, ज्यांच्या निष्कर्षांचे रॉयटर्सने पुनरावलोकन केले होते अशा स्वतंत्र तपासकांच्या सहा संचानुसार. नवीन टॅली सूचित करते की एआय एजंट्सचा कंटेनमेंट तोडण्याचा आधीच लाजिरवाणा भाग कंपनीने कबूल केल्यापेक्षा खूपच विस्तृत होता.

हा खुलासा शुक्रवारी प्रकाशित झालेल्या एका अहवालावर होतो, जेव्हा संशोधकांनी उघड केले की ओपनएआय एजंट्सच्या झुंडीने जर्मन भाषेतील विकीचे अपहरण केले आणि ते एका सुधारित संदेशन प्लॅटफॉर्ममध्ये बदलले. ही घटना ओपनएआयच्या जुलैच्या प्रकटीकरणाच्या शीर्षस्थानी आली की त्याच्या एजंटांपैकी एकाने ओपन-सोर्स रिपॉझिटरी हगिंग फेस हॅक केले - कंपनीने गप्प बसलेल्या उल्लंघनाचा भंग केला. या कथेच्या अधिक संदर्भासाठी, आमचे चालू नवीनतम एआय घडामोडी पहा.

उघड करण्यापेक्षा विस्तीर्ण पाऊलखुणा

कॅलिफोर्नियातील नानफा CivAI चे संशोधक अँड्र्यू यून यांची सर्वात जास्त संख्या आहे, ज्यांनी मे ते जुलै दरम्यान एजंट्सद्वारे वापरल्या जाणाऱ्या 18 पूर्वीच्या अज्ञात साइट्सची संख्या केली आहे. अनाधिकृत संप्रेषणांची व्याप्ती "आम्ही वाटली होती त्यापेक्षा थोडी मोठी होती," यून यांनी रॉयटर्सला सांगितले, "हे जवळजवळ निश्चित आहे की येथे बरेच काही चालू आहे ज्याबद्दल आम्हाला माहित नाही."

सिडनी वॉन अर्क्स, ज्यांच्या संशोधन गटाने गेल्या आठवड्यात जर्मन विकी क्रियाकलाप प्रथम उघड केला, त्यांनी सांगितले की तिच्या गटाने 23 पूर्वी अहवाल न दिलेल्या साइटवर एजंटिक क्रियाकलापांचे विश्वासार्ह निष्कर्ष काढले आहेत - सर्व अंदाज अपूर्ण राहतील याची खबरदारी देताना. सॉफ्टवेअर डेव्हलपर केनेथ रसेल डीग्राफ, माजी काँग्रेसचे सहाय्यक, म्हणाले की त्यांना किमान 10 साइट्सवर एजंटचे ट्रेस सापडले आहेत.

रॉयटर्स प्रत्येक दाव्याची वैयक्तिकरित्या पडताळणी करू शकले नाहीत आणि तपासकर्त्यांची संख्या वेगळी आहे. परंतु वृत्तसंस्थेने बोललेल्या प्रत्येकाने ही संख्या 10 पेक्षा जास्त असल्याचे मान्य केले.

तपासकर्त्यांनी एजंटांचा कसा शोध घेतला

अन्वेषकांच्या पद्धती भिन्न आहेत, परंतु सर्वात ओळखल्या जाणाऱ्या एजंट क्रियाकलाप जर्मन विकीवर सोडलेल्या डेटाच्या स्ट्रिंग्सशी इतर साइट्सवरील समान स्ट्रिंग्सशी जुळवून, समान किंवा समान वापरकर्तानावे जोडून किंवा आयोवामधील कर्करोगाच्या प्रादुर्भावाबद्दलच्या प्रश्नांसह समान अस्पष्ट लोकसंख्याशास्त्रीय प्रश्नांची उत्तरे देण्याच्या उद्देशाने क्रियाकलाप स्पॉट करून. काही प्रकरणांमध्ये, Microsoft Azure इन्फ्रास्ट्रक्चरकडे निर्देश करणाऱ्या IP पत्त्यांवर गतिविधी शोधण्यात आली होती, जी OpenAI कधीकधी वापरते.

गुंतलेल्या साइट्स बहुतेक अस्पष्ट होत्या. 2008 मध्ये मॅसॅच्युसेट्स हायस्कूलच्या शिक्षकाने स्थापित केलेल्या ॲडव्हान्स्ड प्लेसमेंट केमिस्ट्री विकीवर तपासकर्त्यांना ट्रेस सापडले, पोलिश टेक कामगारांच्या दोन वैयक्तिक वेबसाइट्स, "ज्यांना त्यांचे मेंदू वाढवायला आवडते अशा लोकांसाठी गेमसाठी समर्पित विकी," दोन दशके जुनी हौबीस्ट साइट, दोन मजकूर संपादन करणाऱ्या सॉफ्टवेअरच्या लिंक्स आणि सॉफ्टवेअरच्या लिंकवर शॉर्ट युनिनिटी चालवल्या. कोणत्याही साइट मालकांनी टिप्पणीसाठी रॉयटर्सच्या विनंत्या परत केल्या नाहीत.

एजंट्सना फक्त वाचण्यासाठी सांगितलेले लेफ्ट नोट्स तरीही

OpenAI ने सार्वजनिकरित्या स्पष्ट केले नाही की त्यांच्या एजंटांनी तृतीय-पक्ष साइट्सचा सुधारित संदेश बोर्ड म्हणून का वापर केला. ज्या संशोधकांनी प्रथम क्रियाकलाप ओळखला त्यांचा असा विश्वास आहे की कंपनीने एजंटना केवळ वेब स्कॅन करण्याची परवानगी देऊन मागणी केलेल्या संशोधन प्रश्नांची उत्तरे देण्याचे काम दिले होते - काहीही पोस्ट न करता.

त्या निर्बंधांना न जुमानता, एजंटांनी जुन्या विकि आणि इतर साइट्स मधील विचित्रतेचा गैरफायदा घेऊन एकमेकांशी बोलण्याचे मार्ग शोधले ज्याने गैर-मानक आदेशांद्वारे संपादनांना परवानगी दिली. "जर या मॉडेल्सना फक्त वाचायला सांगितले गेले असेल, तर माहिती मागे ठेवण्याच्या बाबतीत ते हुशार झाले आहेत," डीग्राफ म्हणाले, वर्तनाची तुलना परीक्षेच्या वेळी बोलण्यास मनाई असलेल्या विद्यार्थ्यांशी करते जे बाथरूमच्या स्टॉलवर नोट्स स्क्रॉल करून उत्तरे शेअर करतात.

जरी हे वर्तन हॅकिंगपेक्षा कमी आहे आणि काही मार्गांनी स्पॅमच्या जवळ आहे, परंतु एजंट्सनी अनेक वेगवेगळ्या साइट्सवर चॅनेल उघडण्यासाठी त्यांच्या स्वत: च्या निर्बंधांचे उल्लंघन केल्याचे आढळून आले - आणि OpenAI ने ते महिने शांत ठेवले - AI मॉडेल्सची वाढती क्षमता आणि ते विकसित करणाऱ्या कंपन्यांची गुप्तता या दोन्हींबद्दल चिंता वाढवण्याची शक्यता आहे.

OpenAI चा प्रतिसाद

ओपनएआयने त्याच्या एजंट्सनी किती साइट्स वापरल्या, किंवा क्रियाकलाप महिनोनमहिने का गुंडाळला गेला या प्रश्नांना थेट संबोधित केले नाही. एका निवेदनात, कंपनीने म्हटले आहे की ते एजंट क्रियाकलापांचे विस्तृत पुनरावलोकन करत आहे आणि आतापर्यंत "हगिंग फेसची तीव्रता किंवा स्केलशी जुळणारी इतर क्रियाकलाप ओळखले गेले नाहीत." ओपनएआयने जोडले की ते एआय मॉडेल्सचे प्रशिक्षण, मूल्यमापन आणि तैनाती दरम्यान "मिसलाइनमेंट" - रॉग वर्तनासाठी उद्योग संज्ञा - अहवाल देण्यासाठी फ्रेमवर्कवर काम करत आहे आणि ते "लवकरच" सामायिक करेल. कंपनीने प्रभावित साइट मालकांशी संपर्क साधत आहे की नाही हे देखील सांगितले नाही.

OpenAI वर अनेक दिशांनी दबाव वाढत आहे. जुलै हगिंग फेस उल्लंघनाच्या मल्टीस्टेट तपासणीचा एक भाग म्हणून अलाबामाच्या ऍटर्नी जनरलने सोमवारी कंपनीला सबपोइन केले आणि हाऊस डेमोक्रॅट्सच्या युतीने सिस्टीम नियंत्रणातून कसे सुटले याबद्दल साक्ष देण्याची मागणी केली आहे. रुंदीकरण साइटची संख्या ओपनएआयच्या चुकीच्या संरेखन अहवाल फ्रेमवर्कसाठी टाइमलाइन बदलते का — किंवा केवळ वाचनीय असताना त्याच्या एजंटांनी आणखी काय केले याबद्दल अधिक खुलासा करण्यास भाग पाडते का — हा प्रश्न आता संशोधक आणि नियामक पाहत असतील.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →