OpenAI ने Poipet, कंबोडिया येथून कार्यरत समन्वित ChatGPT-चालित घोटाळ्याचे नेटवर्क विस्कळीत केले आहे, कंपनीने एका अहवालात खुलासा केला आहे की गुन्हेगारी गट आता व्यावसायिक कृत्रिम बुद्धिमत्ता मॉडेल्स सक्ती-मजुरी संयुगेच्या दैनंदिन ऑपरेशनमध्ये कसे अंतर्भूत करत आहेत.
"गुन्हेगारी घोटाळ्याच्या ऑपरेशनमध्ये व्यत्यय आणणे" या शीर्षकाखाली 31 जुलै रोजी प्रकाशित केलेले प्रकटीकरण, एका सिंडिकेटचे वर्णन करते ज्याने ChatGPT चा वापर जगभरातील पीडितांना फसवण्यासाठीच केला नाही तर तस्करीशी संबंधित एंटरप्राइझच्या अंतर्गत कामकाजाचे व्यवस्थापन करण्यासाठी देखील केला होता. संघटित गुन्ह्यांसाठी ऑपरेशनल इन्फ्रास्ट्रक्चर म्हणून मोठ्या भाषेच्या मॉडेल्सचा कसा पुनरुत्थान केला जात आहे हे प्रकरण एक विंडो देते. AI च्या गैरवापर आणि रेलिंगवर चालू असलेल्या अहवालासाठी, AI Buzz Wire वर नवीनतम AI घडामोडींचे अनुसरण करा.
नेटवर्क कसे चालवले
ओपनएआयच्या निष्कर्षांनुसार, गुन्हेगारी एंटरप्राइझने पीडित आउटरीचचे भाषांतर करण्यासाठी, फसव्या गुंतवणूकीचे इंटरफेस तयार करण्यासाठी आणि बनावट कायदेशीर नोटीस तयार करण्यासाठी ChatGPT वर अवलंबून होते. ऑपरेटर्सनी व्हॉट्सॲप आणि टेलिग्रामसह मेसेजिंग प्लॅटफॉर्मद्वारे व्यक्तींना लक्ष्य केले, तीन-टप्प्यांवरील फसवणूक लाइफसायकलद्वारे सायकलिंग केली.
योजना सामान्यत: विश्वास निर्माण करण्यासाठी डिझाइन केलेल्या रोमँटिक ओव्हर्चर्ससह सुरू झाली, नंतर बोगस क्रिप्टोकरन्सी गुंतवणूक प्लॅटफॉर्मकडे वळली आणि शेवटी आधीच्या खेळपट्ट्या अयशस्वी झाल्यावर बनावट कायद्याची अंमलबजावणी दंडाच्या धमक्यांपर्यंत वाढली. ऑपरेटर्सनी स्वतःला एका फसवणुकीपुरते मर्यादित ठेवले नाही - त्यांनी बनावट सोने-व्यापार डेस्कसह रोमँटिक सेटअप एकत्र केले आणि जुगाराच्या चॅनेलमध्ये लक्ष्ये पुन्हा राउट केली, पेआउटच्या मार्गांची संख्या वाढवली.
या ऑपरेशनला वेगळे ठरवले ते म्हणजे त्याच्या एआय वापराचे प्रमाण आणि शिस्त. मूठभर प्रॉम्प्ट चालवण्याऐवजी, सिंडिकेटने अनेक भाषांमध्ये उच्च आवाजात खात्रीशीर, स्थानिकीकृत संप्रेषणे तयार करण्यासाठी जनरेटिव्ह मॉडेल्सची पद्धतशीर केली.
जबरदस्ती-कामगार परिमाण
सर्वात त्रासदायक निष्कर्ष पीडितेचा सामना करणाऱ्या फसवणुकीतून नव्हे तर गटाच्या अंतर्गत क्रियाकलापातून आले आहेत. तपासादरम्यान जप्त केलेल्या प्रॉम्प्ट लॉग्सवरून असे दिसून आले की ऑपरेटर्सनी थाई-कंबोडियन सीमेजवळील भौतिक घोटाळ्याच्या कंपाऊंडमध्ये प्रशासकीय कामांसाठी ChatGPT चा वापर केला.
त्या नोंदींमध्ये व्यवस्थापन संप्रेषणांचे भाषांतर करणे, कामगारांची कर्जे लॉगिंग करणे, व्हिसा ओव्हरस्टेचे दस्तऐवजीकरण करणे आणि अनुशासनात्मक दंडाचा मागोवा घेणे समाविष्ट होते. काही नोंदींमध्ये सक्तीने ताब्यात घेणे, सुटलेले कामगार आणि मानवी तस्करी नेटवर्कचा संदर्भ दिला आहे. तपशील दक्षिणपूर्व आशियाई घोटाळ्याच्या संयुगेच्या अनेक वर्षांच्या अहवालाशी संरेखित करतात, जे पासपोर्ट जप्त करण्यापूर्वी आणि हिंसाचाराच्या धोक्यात त्यांना सायबर गुन्ह्यांमध्ये सक्ती करण्याआधी वारंवार फसव्या प्रशासकीय ऑफरसह नोकरी शोधणाऱ्यांना आमिष दाखवतात.
दुसऱ्या शब्दांत, AI मॉडेल दुहेरी कर्तव्य करत होते: बाह्य पीडितांविरुद्ध शस्त्रे वापरत असताना एकाच वेळी बंदिवान कर्मचाऱ्यांसाठी व्यवस्थापन सॉफ्टवेअर म्हणून काम करत होते.
OpenAI चा प्रतिसाद
ओपनएआयने सांगितले की त्याने ऑपरेशनशी संबंधित खाती ओळखली आणि कापली, सिंडिकेटचा त्याच्या मॉडेल्समध्ये प्रवेश अवरोधित केला. कंपनीने आर्थिक गुन्हे आणि मानवाधिकार उल्लंघनासाठी प्लॅटफॉर्मचा दुरुपयोग करणाऱ्या नेटवर्कचा शोध घेण्याच्या आणि ते नष्ट करण्याच्या व्यापक प्रयत्नांचा एक भाग म्हणून व्यत्यय दर्शविला.
हे प्रकरण AI प्रदात्यांसाठी वाढत्या आव्हानाला अधोरेखित करते. दुर्भावनापूर्ण कलाकार यापुढे व्यावसायिक भाषेतील मॉडेल्सना केवळ बाह्य शस्त्रे मानत नाहीत - ते त्यांना ऑपरेशनल मिडलवेअर म्हणून तैनात करत आहेत, त्यांना गुन्हेगारी उद्योगांच्या बॅक-ऑफिस मशीनरीमध्ये विणत आहेत. अशा प्रकारचा गैरवापर शोधण्यासाठी स्पष्टपणे बळी पडणाऱ्या प्रॉम्प्टच्या पलीकडे पाहणे आवश्यक आहे.
एक नवीन शोध समस्या
ऑपरेशनचे सुरक्षा विश्लेषण सूचित करते की घोटाळ्याशी संबंधित प्रॉम्प्ट्सवर साधे कीवर्ड फिल्टरिंग पुरेसे नाही. प्रशासकीय वापर प्रकरणे - मेमोचे भाषांतर करणे, कर्जाचा मागोवा घेणे, उपस्थिती नोंदवणे - एकांतात सांसारिक म्हणून वाचले जाते आणि उघड फसवणूक स्क्रिप्टपेक्षा ध्वजांकित करणे खूप कठीण आहे.
व्यत्ययाच्या कव्हरेजनुसार, या स्वरूपाचा गैरवापर शोधण्यासाठी क्रॉस-प्लॅटफॉर्म बुद्धिमत्ता सामायिकरण आणि प्रशासकीय प्रॉम्प्ट्सचे वर्तणुकीशी विश्लेषण करण्याची आवश्यकता आहे, जिथे वैयक्तिक विनंत्या सौम्य दिसत असतानाही गुन्हेगारी ऑपरेशन्स विशिष्ट ऑपरेशनल पाऊलखुणा सोडतात. मॉडेलला "या मॅनेजर मेसेजचे भाषांतर" करण्यास सांगणारा प्रॉम्प्ट स्वाभाविकपणे संशयास्पद नाही — परंतु अशा शेकडो प्रॉम्प्ट्स, ज्ञात कंपाऊंडशी लिंक केलेल्या खात्यांमधून उद्भवतात, एक नमुना तयार करतात.
मोठे चित्र
कंबोडिया ऑपरेशन हे नवीनतम सिग्नल आहे की जनरेटिव्ह AI साठी दुरुपयोग पृष्ठभाग डीपफेक आणि स्पॅमच्या पलीकडे विस्तारला आहे. तंत्रज्ञान जसजसे परिपक्व होत जाईल तसतसे, सर्वोच्च-मूल्याचा गैरवापर कमीत कमी दृश्यमान असू शकतो: एआय शांतपणे बेकायदेशीर व्यवसायाची रसद चालवत आहे, पीडित अनुवादापासून ते कर्मचारी व्यवस्थापनापर्यंत.
OpenAI आणि त्याच्या प्रतिस्पर्ध्यांसाठी, त्या शिफ्टमुळे देखरेखीच्या जबाबदाऱ्या कितपत वाढवल्या पाहिजेत याबद्दल कठीण प्रश्न निर्माण होतात. प्रदाते खाती निलंबित करू शकतात, परंतु अंतर्निहित संयुगे, तस्करी नेटवर्क आणि सक्ती-कामगार परिस्थिती कायम आहे. डिजिटल लेयरमध्ये व्यत्यय आणणे मदत करते, परंतु हे ऑपरेशन्स टिकवून ठेवणारी भौतिक पायाभूत सुविधा नष्ट करत नाही.
व्यापक नियामक क्षणादरम्यान प्रकटीकरण देखील येते. नवीन पारदर्शकतेचे नियम लागू होत आहेत आणि AI कंपन्यांवर त्यांचे मॉडेल कसे वापरले जातात यासाठी दबाव वाढत आहे, यासारख्या प्रकरणांमुळे अंमलबजावणीचे प्राधान्यक्रम आणि तांत्रिक सुरक्षा प्रदाते भविष्यातील सिस्टममध्ये तयार होतील.
हे एक अस्वस्थ असममितता देखील हायलाइट करते. ChatGPT ला वैध व्यवसायांसाठी मौल्यवान बनवणाऱ्या समान भाषा क्षमता — भाषांतर, मसुदा तयार करणे, सारांश — नेमके तेच सीमा आणि भाषा ओलांडून कार्यरत असलेल्या गुन्हेगारी उद्योगांना आकर्षक बनवतात. एका लहान व्यवसायाला डझनभर देशांतील ग्राहकांपर्यंत पोहोचण्यास मदत करणारे मॉडेल प्रत्येक खंडातील घोटाळ्याच्या सिंडिकेट लक्ष्यित पीडितांना सहज मदत करू शकते. फरक तंत्रज्ञानामध्ये नसून त्याभोवती गुंडाळलेल्या पायाभूत सुविधांमध्ये आहे आणि तिथेच पुरवठादारांना सर्वात कमी दृश्यमानता असते.
पुढे काय येईल
OpenAI चे प्रकटीकरण त्याच्या पारदर्शकतेसाठी तितकेच उल्लेखनीय आहे जेवढे व्यत्यय स्वतःसाठी आहे. नेटवर्क कसे चालवले याचे तपशील प्रकाशित करून, कंपनी एक टेम्प्लेट ऑफर करत आहे जे इतर प्रदाते आणि कायद्याची अंमलबजावणी करणाऱ्या एजन्सी समान दुरुपयोग शोधण्यासाठी वापरू शकतात. परंतु प्रकरण हे देखील स्पष्ट करते की खाते निलंबन, तथापि आवश्यक असले तरी, प्रतिस्पर्ध्याविरुद्ध एक प्रतिक्रियात्मक उपाय आहे जे नवीन ओळख निर्माण करू शकते आणि सापेक्ष सहजतेने ऑपरेशन्स पुनर्स्थित करू शकते.
सुरक्षा कार्यसंघ आणि AI प्रदात्यांसाठी, टेकअवे हे आहे की या वर्गाच्या गैरवापरापासून बचाव करण्यासाठी पॅटर्न शोधणे, कंपन्यांमध्ये डेटा सामायिक करणे आणि स्वतः भौतिक संयुगे विरुद्ध कार्य करू शकणाऱ्या अधिकाऱ्यांचे सहकार्य यामध्ये सतत गुंतवणूक करणे आवश्यक आहे. डिजीटल लेयर आणि फिजिकल लेयर, जसे हे केस दाखवते, आता वेगळे करता येणार नाहीत.
AI च्या पुढे रहा
सुरक्षा जोखीम, नैतिक दुविधा आणि कृत्रिम बुद्धिमत्तेशी संबंधित धोरणात्मक वादविवादांबद्दल अधिक माहितीसाठी, AI Buzz Wire वरून AI बातम्यांची माहिती घेत रहा.
अधिक एआय बातम्या वाचा →
