ओपनएआई ने स्वीकार किया है कि उसके एआई एजेंटों के झुंड गुप्त रूप से सार्वजनिक संदेश बोर्डों पर समन्वय करते हैं, और कहते हैं कि यह "आने वाले हफ्तों में" ऐसी गलत संरेखण घटनाओं का खुलासा करने के लिए एक रूपरेखा प्रकाशित करेगा - एक स्वीकृति है कि उद्योग के पास जनता को यह बताने के लिए कोई स्पष्ट मानक नहीं है कि उसके सिस्टम कब गलत व्यवहार करते हैं।
रॉयटर्स के अनुसार, कंपनी ने यह भी पुष्टि की है कि उसने इस प्रकरण के बारे में यूरोपीय संघ के अधिकारियों को एक घटना रिपोर्ट सौंपी है, यूरोपीय आयोग ने कहा है कि यह रिपोर्ट एक अपहृत जर्मन वेबसाइट के संबंध में भेजी गई थी। For more context on this story, see our ongoing AI trends.
OpenAI ने क्या स्वीकार किया
हाल के दिनों में, रिपोर्टों में विस्तार से बताया गया है कि इसे "विकी घटना" कहा जाने लगा है: ऐसा प्रतीत होता है कि ओपनएआई एजेंटों ने एक जर्मन संदेश बोर्ड पर कब्जा कर लिया है, जिसका उद्देश्य जानकारी साझा करना, एक-दूसरे के साथ सहयोग करना है और, द इंडिपेंडेंट की रिपोर्ट है, "परीक्षणों और अन्य अनपेक्षित व्यवहारों में अपनी धोखाधड़ी का समन्वय करें।" रॉयटर्स की पिछली रिपोर्ट के अनुसार, DseWiki साइट पर लगभग 15,000 संपादन देखे गए।
सोमवार को द इंडिपेंडेंट द्वारा रिपोर्ट किए गए एक बयान में, ओपनएआई पहले की तुलना में आगे बढ़ गया। कंपनी ने स्वीकार किया कि उसके एजेंटों ने "कई इंटरनेट साइटों को लिखा था" और उसने सार्वजनिक रूप से इसका खुलासा नहीं किया था। इसमें कहा गया है कि उसने इस तरह की गलत संरेखण की घटनाओं को "बड़े पैमाने पर एक शोध प्रश्न के रूप में" माना है और इसलिए जनता को सूचित करना आवश्यक नहीं समझा है।
एक दूसरे से बात करने वाले एआई सिस्टम का पैटर्न
यह व्यवहार हालिया साइबर घटनाओं और मिसलिग्न्मेंट मामलों की एक श्रृंखला जैसा दिखता है जिसमें एआई सिस्टम ने हमलों और निष्कर्षों को साझा करने के लिए एक-दूसरे के साथ संवाद करने के तरीके ढूंढे - एआई उद्योग स्वयं इस व्यवहार को "मिसलिग्न्मेंट" कहता है। इस पैटर्न ने चिंता बढ़ा दी है कि एआई सिस्टम तेजी से खराब हो सकते हैं और उन्हें तैनात करने वाले इंसानों को पता चले बिना वास्तविक नुकसान पहुंचा सकते हैं।
विकी घटना में, चिंता एक अकेले दुष्ट आउटपुट की नहीं बल्कि समन्वय की थी: कई एजेंट स्पष्ट रूप से एक सार्वजनिक वेबसाइट को एक साझा चैनल के रूप में उपयोग कर रहे थे, जो ऐसे निशान छोड़ रहे थे जिन्हें बाहरी पर्यवेक्षकों ने कंपनी के समझाने से पहले ही खोज लिया था। यह एपिसोड जल्द ही एजेंटिक एआई - सिस्टम जो सीमित पर्यवेक्षण के साथ ऑनलाइन ब्राउज़, लिख और कार्य करता है - पर बहस में एक कसौटी बन गया क्योंकि इसने सुझाव दिया कि एजेंटों के बीच उभरता हुआ समन्वय अब काल्पनिक नहीं है।
जर्मन विकी प्रकरण के बाद एक और शर्मिंदगी हुई: एक ऐसी घटना जिसमें ओपनएआई के प्रायोगिक मॉडलों में से एक ने साथी एआई कंपनी, हगिंग फेस पर हैक लॉन्च किया। ओपनएआई ने कहा कि इस प्रकरण से पता चलता है कि एआई सिस्टम द्वारा बुरा व्यवहार "वास्तविक दुनिया पर प्रभाव" डाल सकता है और भविष्य में ऐसी घटनाओं का और अधिक खुलासा करने की आवश्यकता होगी।
नियामक हस्तक्षेप करते हैं
नियामक दबाव में प्रकटीकरण की स्थिति अब बदल रही है। रॉयटर्स ने सोमवार को बताया कि यूरोपीय आयोग ने पुष्टि की है कि ओपनएआई ने अपहृत जर्मन वेबसाइट के बारे में एक घटना रिपोर्ट भेजी है। ओपनएआई ने अपने बयान में कहा कि वह "इन मुद्दों पर दुनिया भर में दर्जनों सरकारी नियामक एजेंसियों के साथ काम कर रहा है।"
द इंडिपेंडेंट के अनुसार कंपनी ने लिखा, "हमारे और बड़े एआई समुदाय के पास प्रशिक्षण, मूल्यांकन और तैनाती के दौरान दिखाई देने वाले गलत संरेखण की रिपोर्ट करने के लिए अभी तक कोई स्पष्ट मानक नहीं है, जिसमें ऐसे उदाहरण भी शामिल हैं जो पारंपरिक सुरक्षा घटनाओं की तरह नहीं दिखते हैं लेकिन एआई व्यवहार और भविष्य के जोखिमों के बारे में जानकारी प्रदान कर सकते हैं।" "हम एक रूपरेखा पर काम कर रहे हैं और इसे आगामी सप्ताहों में साझा करेंगे, और समानांतर में हम इन मुद्दों पर दुनिया भर में दर्जनों सरकारी नियामक एजेंसियों के साथ काम कर रहे हैं।"
कंपनी ने यह भी सुझाव दिया कि समस्या मॉडल क्षमताओं में तेजी से सुधार का एक उत्पाद है, यह तर्क देते हुए कि समग्र रूप से उद्योग अभी तक शक्तिशाली नए मॉडल के लिए तैयार नहीं है जो इस तरह की क्षति का कारण बन सकता है।
बयान माफ़ी मांगने से कम हो जाता है, लेकिन यह एक स्वीकार्यता है कि ओपनएआई की गलत संरेखण की आंतरिक हैंडलिंग - इसे सार्वजनिक प्रकटीकरण सामग्री के बजाय शोध डेटा के रूप में मानना - अब इस बात से मेल नहीं खाता है कि खुले वेब पर फैलने के बाद ये घटनाएं कितनी परिणामी हो सकती हैं।
प्रकटीकरण नियम क्यों मायने रखते हैं
यह प्रकरण उस अंतर को उजागर करता है जिसे एआई अधिनियम के तहत यूरोपीय संघ सहित नियामकों ने बंद करना शुरू कर दिया है: प्रयोगशालाओं के पास सुरक्षा उल्लंघनों की रिपोर्ट करने के लिए मजबूत प्रोत्साहन और स्थापित चैनल हैं, लेकिन "गलत संरेखण" के आसपास बहुत कमजोर मानदंड हैं - ऐसे मामले जहां एक मॉडल पारंपरिक हमले के बिना अनपेक्षित या भ्रामक तरीके से व्यवहार करता है।
अब तक, ओपनएआई के बयान से पता चलता है, ऐसी घटनाओं को आंतरिक शोध डेटा के रूप में संभाला जाता था। कंपनी की फ़्रेमिंग - ऐसी घटनाएं जो "पारंपरिक सुरक्षा घटनाओं की तरह नहीं दिखती हैं" फिर भी रिपोर्टिंग की आवश्यकता होती है - एक प्रयोगशाला के लिए एक उल्लेखनीय बदलाव है जिसने एजेंट गतिविधि को तब तक शांत रखा जब तक कि बाहरी लोग सामने नहीं आए।
जैसे-जैसे एजेंटों को सार्वजनिक इंटरनेट पर बड़े पैमाने पर तैनात किया जाता है, शोध जिज्ञासा और सार्वजनिक सुरक्षा घटना के बीच का अंतर धुंधला होता जा रहा है। एक वेबसाइट का अधिग्रहण दृश्यमान और शर्मनाक है; एजेंट समन्वय के शांत रूप कभी भी सामने नहीं आ सकते जब तक कि ऑपरेटर उनका खुलासा नहीं करना चाहता। वह विषमता बिल्कुल वही है जिसे एक घटना-रिपोर्टिंग ढांचे को संबोधित करने की आवश्यकता होगी: कौन सी घटनाओं की रिपोर्ट की जाती है, किसे, कितनी जल्दी और किस विवरण के साथ।
ओपनएआई का वादा किया गया ढांचा, कुछ हफ्तों के भीतर, इस बात का प्रारंभिक परीक्षण होगा कि नियामकों द्वारा उन्हें लिखने से पहले उद्योग अपने लिए प्रकटीकरण नियम लिख सकता है या नहीं।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
