ओपनएआई ने पोइपेट, कंबोडिया से संचालित एक समन्वित चैटजीपीटी-संचालित घोटाला नेटवर्क को बाधित कर दिया है, कंपनी ने एक रिपोर्ट में खुलासा किया है कि कैसे आपराधिक समूह अब मजबूर-श्रम यौगिकों के दैनिक संचालन में वाणिज्यिक कृत्रिम बुद्धिमत्ता मॉडल को एम्बेड कर रहे हैं।
31 जुलाई को "डिस्ट्रप्टिंग ए क्रिमिनल स्कैम ऑपरेशन" शीर्षक के तहत प्रकाशित खुलासा, एक सिंडिकेट का वर्णन करता है जिसने चैटजीपीटी का उपयोग न केवल दुनिया भर में पीड़ितों को धोखा देने के लिए किया, बल्कि तस्करी से जुड़े उद्यम के आंतरिक कामकाज को प्रबंधित करने के लिए भी किया। यह मामला एक खिड़की प्रदान करता है कि कैसे बड़े भाषा मॉडल को संगठित अपराध के लिए परिचालन बुनियादी ढांचे के रूप में पुन: उपयोग किया जा रहा है। एआई के दुरुपयोग और रेलिंग पर चल रही रिपोर्टिंग के लिए, एआई बज़ वायर पर नवीनतम एआई विकास का अनुसरण करें।
नेटवर्क कैसे संचालित हुआ
ओपनएआई के निष्कर्षों के अनुसार, आपराधिक उद्यम पीड़ित तक पहुंच का अनुवाद करने, धोखाधड़ी वाले निवेश इंटरफेस उत्पन्न करने और नकली कानूनी नोटिस का मसौदा तैयार करने के लिए चैटजीपीटी पर निर्भर था। ऑपरेटरों ने तीन चरणों वाले धोखे के जीवनचक्र के माध्यम से व्हाट्सएप और टेलीग्राम सहित मैसेजिंग प्लेटफार्मों के माध्यम से व्यक्तियों को लक्षित किया।
यह योजना आम तौर पर विश्वास बनाने के लिए डिज़ाइन किए गए रोमांटिक प्रस्तावों के साथ शुरू हुई, फिर फर्जी क्रिप्टोकरेंसी निवेश प्लेटफार्मों की ओर बढ़ गई, और अंत में जब पहले की पिचें विफल हो गईं तो नकली कानून-प्रवर्तन जुर्माना की धमकियों तक बढ़ गई। ऑपरेटरों ने खुद को एक धोखाधड़ी क्षेत्र तक ही सीमित नहीं रखा - उन्होंने रोमांटिक सेटअप को नकली सोना-व्यापार डेस्क के साथ जोड़ दिया और जुआ चैनलों में लक्ष्यों को दोबारा बदल दिया, जिससे भुगतान के पथों की संख्या अधिकतम हो गई।
इस ऑपरेशन को अलग करने वाली बात इसके एआई उपयोग का पैमाना और अनुशासन था। मुट्ठी भर एकमुश्त संकेत चलाने के बजाय, सिंडिकेट ने कई भाषाओं में उच्च मात्रा में विश्वसनीय, स्थानीय संचार उत्पन्न करने के लिए जेनरेटिव मॉडल को व्यवस्थित किया।
जबरन मजदूरी का आयाम
सबसे परेशान करने वाले निष्कर्ष पीड़ित-सामना वाली धोखाधड़ी से नहीं बल्कि समूह की आंतरिक गतिविधि से आए। जांच के दौरान बरामद किए गए प्रॉम्प्ट लॉग से पता चला कि ऑपरेटरों ने थाई-कंबोडियाई सीमा के पास स्थित भौतिक घोटाला परिसरों के अंदर प्रशासनिक कार्यों के लिए चैटजीपीटी का उपयोग किया था।
उन लॉग में प्रबंधन संचार का अनुवाद करना, कर्मचारी ऋण लॉग करना, वीजा अवधि से अधिक समय तक रुकने का दस्तावेजीकरण करना और अनुशासनात्मक जुर्माने पर नज़र रखना शामिल था। कुछ प्रविष्टियों में जबरन हिरासत, भागे हुए श्रमिकों और मानव-तस्करी नेटवर्क का संदर्भ दिया गया। यह विवरण दक्षिण-पूर्व एशियाई घोटाला यौगिकों पर वर्षों की रिपोर्टिंग के अनुरूप है, जो अक्सर नौकरी चाहने वालों को पासपोर्ट जब्त करने और हिंसा की धमकी के तहत साइबर अपराध श्रम में मजबूर करने से पहले धोखाधड़ी वाले प्रशासनिक प्रस्तावों का लालच देते हैं।
दूसरे शब्दों में, एआई मॉडल दोहरा काम कर रहे थे: बाहरी पीड़ितों के खिलाफ हथियारबंद होने के साथ-साथ कैप्टिव कार्यबल के लिए प्रबंधन सॉफ्टवेयर के रूप में भी काम कर रहे थे।
OpenAI की प्रतिक्रिया
ओपनएआई ने कहा कि उसने ऑपरेशन से जुड़े खातों की पहचान की और उन्हें काट दिया, जिससे सिंडिकेट की उसके मॉडलों तक पहुंच अवरुद्ध हो गई। कंपनी ने इस व्यवधान को वित्तीय अपराध और मानवाधिकारों के उल्लंघन के लिए उसके मंच का दुरुपयोग करने वाले नेटवर्क का पता लगाने और उन्हें नष्ट करने के व्यापक प्रयास के हिस्से के रूप में वर्णित किया है।
यह मामला एआई प्रदाताओं के लिए बढ़ती चुनौती को रेखांकित करता है। दुर्भावनापूर्ण अभिनेता अब व्यावसायिक भाषा मॉडल को केवल बाहरी हथियार के रूप में नहीं मान रहे हैं - वे उन्हें परिचालन मिडलवेयर के रूप में तैनात कर रहे हैं, उन्हें आपराधिक उद्यमों की बैक-ऑफिस मशीनरी में बुन रहे हैं। उस प्रकार के दुर्व्यवहार का पता लगाने के लिए स्पष्ट पीड़ित-सामना वाले संकेतों से परे देखने की आवश्यकता होती है।
एक नई पहचान समस्या
ऑपरेशन के सुरक्षा विश्लेषण से पता चलता है कि घोटाले से संबंधित संकेतों पर सरल कीवर्ड फ़िल्टरिंग अब पर्याप्त नहीं है। प्रशासनिक उपयोग के मामले - मेमो का अनुवाद करना, ऋणों पर नज़र रखना, उपस्थिति दर्ज करना - अलगाव में सांसारिक के रूप में पढ़ा जाता है और प्रकट धोखाधड़ी स्क्रिप्ट की तुलना में चिह्नित करना कहीं अधिक कठिन है।
व्यवधान के कवरेज के अनुसार, इस प्रकृति के दुरुपयोग का पता लगाने के लिए क्रॉस-प्लेटफॉर्म खुफिया साझाकरण और प्रशासनिक संकेतों के व्यवहारिक विश्लेषण की आवश्यकता होती है, जहां व्यक्तिगत अनुरोध सौम्य दिखने पर भी आपराधिक संचालन अलग परिचालन पदचिह्न छोड़ते हैं। किसी मॉडल से "इस प्रबंधक संदेश का अनुवाद" करने के लिए कहने वाला संकेत स्वाभाविक रूप से संदिग्ध नहीं है - लेकिन ऐसे सैकड़ों संकेत, जो किसी ज्ञात यौगिक से जुड़े खातों से उत्पन्न होते हैं, एक पैटर्न बनाते हैं।
बड़ी तस्वीर
कंबोडिया ऑपरेशन नवीनतम संकेत है कि जेनेरिक एआई के लिए दुरुपयोग की सतह डीपफेक और स्पैम से कहीं आगे बढ़ गई है। जैसे-जैसे प्रौद्योगिकी परिपक्व होती है, उच्चतम-मूल्य का दुरुपयोग कम से कम दिखाई दे सकता है: एआई चुपचाप एक अवैध व्यवसाय की रसद चला रहा है, पीड़ित अनुवाद से लेकर कार्यबल प्रबंधन तक।
ओपनएआई और उसके प्रतिस्पर्धियों के लिए, यह बदलाव कठिन सवाल उठाता है कि निगरानी जिम्मेदारियों को कितनी दूर तक बढ़ाया जाना चाहिए। प्रदाता खातों को निलंबित कर सकते हैं, लेकिन अंतर्निहित यौगिक, तस्करी नेटवर्क और जबरन श्रम की स्थितियाँ बनी रहती हैं। डिजिटल परत को बाधित करने से मदद मिलती है, लेकिन यह इन परिचालनों को बनाए रखने वाले भौतिक बुनियादी ढांचे को नष्ट नहीं करता है।
व्यापक नियामक क्षण के बीच यह खुलासा भी हुआ है। नए पारदर्शिता नियमों के प्रभावी होने और एआई कंपनियों पर उनके मॉडल का उपयोग कैसे किया जाता है, इस पर दबाव बढ़ने के साथ, इस तरह के मामलों से प्रवर्तन प्राथमिकताओं और भविष्य की प्रणालियों में तकनीकी सुरक्षा प्रदाताओं के निर्माण दोनों को आकार देने की संभावना है।
यह एक असुविधाजनक विषमता को भी उजागर करता है। वही भाषा क्षमताएं जो चैटजीपीटी को वैध व्यवसायों के लिए मूल्यवान बनाती हैं - अनुवाद, प्रारूपण, संक्षेपण - वही हैं जो इसे सीमाओं और भाषाओं के पार काम करने वाले आपराधिक उद्यमों के लिए आकर्षक बनाती हैं। एक मॉडल जो एक छोटे व्यवसाय को एक दर्जन देशों में ग्राहकों तक पहुंचने में मदद कर सकता है, उतनी ही आसानी से हर महाद्वीप पर एक घोटालेबाज सिंडिकेट को पीड़ितों तक पहुंचने में मदद कर सकता है। अंतर प्रौद्योगिकी में नहीं बल्कि इसके चारों ओर लिपटे बुनियादी ढांचे में है, और यही वह जगह है जहां प्रदाताओं की दृश्यता सबसे कम होती है।
आगे क्या आता है
ओपनएआई का खुलासा अपनी पारदर्शिता के साथ-साथ व्यवधान के लिए भी उल्लेखनीय है। नेटवर्क कैसे संचालित होता है, इसका विवरण प्रकाशित करके, कंपनी एक टेम्पलेट पेश कर रही है जिसका उपयोग अन्य प्रदाता और कानून-प्रवर्तन एजेंसियां समान दुरुपयोग का पता लगाने के लिए कर सकती हैं। लेकिन मामला यह भी स्पष्ट करता है कि खाता निलंबन, हालांकि आवश्यक हो, एक प्रतिद्वंद्वी के खिलाफ एक प्रतिक्रियाशील उपाय है जो नई पहचान बना सकता है और संचालन को सापेक्ष आसानी से स्थानांतरित कर सकता है।
सुरक्षा टीमों और एआई प्रदाताओं के लिए, मुख्य बात यह है कि दुरुपयोग के इस वर्ग के खिलाफ बचाव के लिए पैटर्न का पता लगाने, कंपनियों में डेटा साझा करने और उन अधिकारियों के साथ सहयोग की आवश्यकता होगी जो स्वयं भौतिक यौगिकों के खिलाफ कार्य कर सकते हैं। डिजिटल परत और भौतिक परत, जैसा कि यह मामला दर्शाता है, अब अलग नहीं किए जा सकते हैं।
एआई से आगे रहें
कृत्रिम बुद्धिमत्ता से जुड़े सुरक्षा जोखिमों, नैतिक दुविधाओं और नीतिगत बहसों के बारे में अधिक जानकारी के लिए एआई बज़ वायर से ब्रेकिंग एआई समाचार देखते रहें।
अधिक AI समाचार पढ़ें →
