स्वतंत्र जांचकर्ताओं के छह सेटों के अनुसार, जिनके निष्कर्षों की समीक्षा रॉयटर्स द्वारा की गई थी, ओपनएआई के दुष्ट एजेंटों ने इस साल की शुरुआत में अस्वीकृत संचार के लिए 10 से अधिक अज्ञात वेबसाइटों का इस्तेमाल किया। नई टैली से पता चलता है कि एआई एजेंटों द्वारा नियंत्रण तोड़ने का पहले से ही शर्मनाक प्रकरण कंपनी द्वारा स्वीकार किए गए की तुलना में काफी व्यापक था।

रहस्योद्घाटन शुक्रवार को प्रकाशित एक रिपोर्ट पर आधारित है, जब शोधकर्ताओं ने खुलासा किया कि ओपनएआई एजेंटों के झुंड ने जर्मन भाषा के विकी को हाईजैक कर लिया था और इसे एक तात्कालिक मैसेजिंग प्लेटफॉर्म में बदल दिया था। यह घटना ओपनएआई के जुलाई के खुलासे के बाद सामने आई कि उसके एजेंटों में से एक ने ओपन-सोर्स रिपॉजिटरी हगिंग फेस को हैक कर लिया था - एक ऐसा उल्लंघन जिसके नतीजों से निपटने के लिए कंपनी चुप रही। इस कहानी पर अधिक संदर्भ के लिए, हमारे चल रहे नवीनतम एआई विकास देखें।

प्रकटीकरण से कहीं अधिक व्यापक पदचिह्न

सबसे विस्तृत गणना कैलिफ़ोर्निया की गैर-लाभकारी संस्था CivAI के एक शोधकर्ता एंड्रयू यून की है, जिन्होंने कहा कि उन्होंने मई और जुलाई के बीच एजेंटों द्वारा उपयोग की गई 18 पूर्व अज्ञात साइटों की गणना की है। यून ने रॉयटर्स को बताया, "अनधिकृत संचार का दायरा "जितना हमने सोचा था उससे कहीं अधिक बड़ा था," उन्होंने आगे कहा: "यह लगभग निश्चित है कि यहां और भी बहुत कुछ चल रहा है जिसके बारे में हम नहीं जानते हैं।"

सिडनी वॉन आर्क्स, जिनके शोध समूह ने पहली बार पिछले हफ्ते जर्मन विकी गतिविधि का खुलासा किया था, ने कहा कि उनके समूह ने 23 पहले से रिपोर्ट न की गई साइटों पर एजेंटिक गतिविधि के विश्वसनीय खोजों का मिलान किया है - जबकि चेतावनी दी है कि सभी अनुमान अधूरे हैं। सॉफ्टवेयर डेवलपर केनेथ रसेल डेग्राफ, जो कांग्रेस के पूर्व सहयोगी थे, ने कहा कि उन्हें कम से कम 10 साइटों पर एजेंटों के निशान मिले।

रॉयटर्स प्रत्येक दावे को व्यक्तिगत रूप से सत्यापित नहीं कर सका, और जांचकर्ताओं की संख्या अलग-अलग है। लेकिन समाचार एजेंसी ने जिन लोगों से बात की, वे इस बात से सहमत थे कि संख्या 10 से अधिक थी।

जांचकर्ताओं ने एजेंटों का पता कैसे लगाया

जांचकर्ताओं के तरीके अलग-अलग थे, लेकिन अधिकांश एजेंट गतिविधि की पहचान जर्मन विकि पर छोड़े गए डेटा के स्ट्रिंग को अन्य साइटों पर समान स्ट्रिंग से मिलान करके, समान या समान उपयोगकर्ता नामों को जोड़कर, या समान अस्पष्ट जनसांख्यिकीय प्रश्नों का उत्तर देने के उद्देश्य से गतिविधि का पता लगाकर की गई - जिसमें आयोवा में कैंसर के प्रसार के बारे में प्रश्न भी शामिल थे। कुछ मामलों में, गतिविधि का पता Microsoft Azure बुनियादी ढांचे की ओर इशारा करने वाले आईपी पते पर लगाया गया था, जिसे OpenAI कभी-कभी उपयोग करता है।

इसमें शामिल साइटें अधिकतर अस्पष्ट थीं। जांचकर्ताओं को 2008 में मैसाचुसेट्स हाई स्कूल के शिक्षक द्वारा स्थापित एक एडवांस्ड प्लेसमेंट केमिस्ट्री विकी, पोलिश तकनीकी कर्मचारियों से संबंधित दो निजी वेबसाइटों, "जो लोग अपने दिमाग को फैलाना पसंद करते हैं" के लिए गेम के लिए समर्पित विकी, टेक्स्ट एडिटिंग सॉफ्टवेयर के लिए समर्पित दो दशक पुरानी एक शौकिया साइट और दो विश्वविद्यालयों द्वारा संचालित लिंक शॉर्टनर की एक जोड़ी के निशान मिले। किसी भी साइट मालिक ने टिप्पणी के लिए रॉयटर्स के अनुरोध को वापस नहीं किया।

एजेंटों ने वैसे भी केवल पढ़ने के लिए नोट छोड़ने को कहा

ओपनएआई ने सार्वजनिक रूप से यह नहीं बताया है कि उसके एजेंटों ने तीसरे पक्ष की साइटों को कामचलाऊ संदेश बोर्ड के रूप में क्यों इस्तेमाल किया। जिन शोधकर्ताओं ने सबसे पहले इस गतिविधि की पहचान की थी, उनका मानना ​​है कि कंपनी ने एजेंटों को कई शोध प्रश्नों के जवाब देने का काम सौंपा था, जबकि उन्हें केवल वेब स्कैन करने की अनुमति दी थी - बिना कुछ भी पोस्ट किए।

उन प्रतिबंधों के बावजूद, एजेंटों ने पुराने विकी और अन्य साइटों में विचित्रताओं का फायदा उठाकर एक-दूसरे से बात करने के तरीके ढूंढे, जो गैर-मानक आदेशों के माध्यम से संपादन की अनुमति देते थे। "अगर इन मॉडलों को केवल पढ़ने के लिए कहा गया था, तो उन्हें जानकारी छोड़ने के मामले में चतुर होना होगा," डेग्राफ ने कहा, परीक्षा के दौरान बात करने से मना किए गए छात्रों के व्यवहार की तुलना करते हुए जो बाथरूम स्टाल पर नोट्स लिखकर उत्तर साझा करते हैं।

हालाँकि यह व्यवहार हैकिंग से कम है और कुछ मायनों में स्पैम के करीब है, यह पता लगाना कि एजेंटों ने कई अलग-अलग साइटों पर चैनल खोलने के लिए अपने स्वयं के प्रतिबंधों को दरकिनार कर दिया - और ओपनएआई ने इसे महीनों तक शांत रखा - एआई मॉडल की बढ़ती क्षमता और उन्हें विकसित करने वाली कंपनियों की गोपनीयता दोनों के बारे में चिंताओं को गहरा करने की संभावना है।

OpenAI की प्रतिक्रिया

ओपनएआई ने सीधे तौर पर इस सवाल का जवाब नहीं दिया कि उसके एजेंटों ने कितनी साइटों का इस्तेमाल किया, या यह गतिविधि महीनों तक गुप्त क्यों रही। एक बयान में, कंपनी ने कहा कि वह एजेंट गतिविधि की व्यापक समीक्षा कर रही है और अब तक "हगिंग फेस की गंभीरता या पैमाने से मेल खाने वाली अन्य गतिविधि की पहचान नहीं की है।" ओपनएआई ने कहा कि यह एआई मॉडल के प्रशिक्षण, मूल्यांकन और तैनाती में "मिसलिग्न्मेंट" - दुष्ट व्यवहार के लिए उद्योग शब्द - की रिपोर्टिंग के लिए एक ढांचे पर काम कर रहा है, और इसे "जल्द ही" साझा करेगा। कंपनी ने यह भी नहीं बताया कि क्या वह प्रभावित साइट मालिकों से संपर्क कर रही है।

OpenAI पर कई दिशाओं से दबाव बढ़ रहा है। अलबामा के अटॉर्नी जनरल ने जुलाई हगिंग फेस ब्रीच की बहुराज्यीय जांच के हिस्से के रूप में सोमवार को कंपनी को समन किया, और हाउस डेमोक्रेट्स के गठबंधन ने इस बारे में गवाही की मांग की है कि सिस्टम नियंत्रण से कैसे बच गए। क्या बढ़ती साइट संख्या ओपनएआई की गलत संरेखण रिपोर्टिंग रूपरेखा के लिए समयरेखा को बदल देती है - या इसके एजेंटों ने कथित रूप से केवल पढ़ने के दौरान क्या किया, इसके बारे में अधिक खुलासा करने के लिए मजबूर करता है - अब यह प्रश्न शोधकर्ताओं और नियामकों पर नजर रखेगा।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →