OpenAI نے Poipet، کمبوڈیا سے باہر کام کرنے والے ایک مربوط ChatGPT سے چلنے والے گھوٹالے کے نیٹ ورک میں خلل ڈالا ہے، کمپنی نے ایک رپورٹ میں انکشاف کیا ہے کہ کس طرح جرائم پیشہ گروہ اب کمرشل مصنوعی ذہانت کے ماڈلز کو جبری مشقت کے مرکبات کی روزانہ کی کارروائیوں میں شامل کر رہے ہیں۔
یہ انکشاف، جو 31 جولائی کو "Disrupting a Criminal Scam Operation" کے عنوان سے شائع ہوا، ایک ایسے سنڈیکیٹ کی وضاحت کرتا ہے جس نے ChatGPT کا استعمال نہ صرف پوری دنیا کے متاثرین کو دھوکہ دینے کے لیے کیا بلکہ اسمگلنگ سے منسلک ایک انٹرپرائز کے اندرونی کام کو منظم کرنے کے لیے بھی کیا۔ یہ کیس ایک ونڈو پیش کرتا ہے کہ کس طرح بڑے زبان کے ماڈلز کو منظم جرائم کے آپریشنل انفراسٹرکچر کے طور پر دوبارہ تیار کیا جا رہا ہے۔ AI کے غلط استعمال اور محافظوں کے بارے میں جاری رپورٹنگ کے لیے، AI Buzz Wire پر AI کی تازہ ترین پیشرفت کی پیروی کریں۔
نیٹ ورک کیسے کام کرتا ہے۔
OpenAI کے نتائج کے مطابق، مجرمانہ انٹرپرائز نے شکار کی رسائی کا ترجمہ کرنے، دھوکہ دہی پر مبنی سرمایہ کاری کے انٹرفیس، اور جعلی قانونی نوٹس تیار کرنے کے لیے ChatGPT پر انحصار کیا۔ آپریٹرز نے واٹس ایپ اور ٹیلی گرام سمیت میسجنگ پلیٹ فارمز کے ذریعے افراد کو نشانہ بنایا، تین مراحل پر مشتمل فریب کاری کے لائف سائیکل کے ذریعے سائیکل چلانا۔
اس اسکیم کا آغاز عام طور پر اعتماد پیدا کرنے کے لیے بنائے گئے رومانوی اوورچرز کے ساتھ ہوا، پھر جعلی کریپٹو کرنسی سرمایہ کاری کے پلیٹ فارمز کی طرف موڑ دیا گیا، اور آخر کار اس کی ابتداء ناکام ہونے پر جعلی قانون نافذ کرنے والے جرمانے کی دھمکیوں تک پہنچ گئی۔ آپریٹرز نے اپنے آپ کو کسی ایک فراڈ عمودی تک محدود نہیں رکھا — انہوں نے رومانوی سیٹ اپ کو جعلی گولڈ ٹریڈنگ ڈیسک کے ساتھ جوڑا اور اہداف کو جوئے کے چینلز میں تبدیل کر دیا، جس سے ادائیگی کے راستوں کی تعداد زیادہ سے زیادہ ہو گئی۔
جس چیز نے اس آپریشن کو الگ کیا وہ اس کے AI استعمال کا پیمانہ اور نظم و ضبط تھا۔ مٹھی بھر یک طرفہ اشارے چلانے کے بجائے، سنڈیکیٹ نے متعدد زبانوں میں اعلیٰ حجم میں قائل کرنے والے، مقامی مواصلات کو تیار کرنے کے لیے جنریٹیو ماڈلز کو منظم کیا۔
جبری مشقت کی جہت
سب سے زیادہ پریشان کن نتائج شکار کا سامنا کرنے والے دھوکہ دہی سے نہیں بلکہ گروپ کی اندرونی سرگرمی سے سامنے آئے۔ تحقیقات کے دوران برآمد ہونے والے فوری لاگ سے یہ بات سامنے آئی کہ آپریٹرز نے تھائی-کمبوڈیا کی سرحد کے قریب واقع فزیکل سکیم کمپاؤنڈ کے اندر انتظامی کاموں کے لیے ChatGPT کا استعمال کیا۔
ان لاگز میں مینجمنٹ کمیونیکیشنز کا ترجمہ کرنا، ورکرز کے قرضوں کو لاگو کرنا، ویزا سے زائد قیام کی دستاویز کرنا، اور تادیبی جرمانے کا پتہ لگانا شامل تھا۔ کچھ اندراجات میں جبری حراست، فرار ہونے والے کارکنوں، اور انسانی اسمگلنگ کے نیٹ ورک کا حوالہ دیا گیا ہے۔ تفصیل جنوب مشرقی ایشیائی گھوٹالے کے مرکبات پر برسوں کی رپورٹنگ کے ساتھ مطابقت رکھتی ہے، جو اکثر ملازمت کے متلاشیوں کو جعلی انتظامی پیشکشوں کے ذریعے پاسپورٹ ضبط کرنے اور تشدد کے خطرے کے تحت سائبر کرائم لیبر پر مجبور کرنے سے پہلے آمادہ کرتی ہے۔
دوسرے لفظوں میں، AI ماڈلز ڈبل ڈیوٹی کر رہے تھے: بیرونی متاثرین کے خلاف ہتھیار بنائے گئے جبکہ ساتھ ہی ایک قیدی افرادی قوت کے لیے مینجمنٹ سوفٹ ویئر کے طور پر کام کر رہے تھے۔
اوپن اے آئی کا جواب
OpenAI نے کہا کہ اس نے آپریشن سے منسلک اکاؤنٹس کی نشاندہی کی اور انہیں کاٹ دیا، جس سے سنڈیکیٹ کی اس کے ماڈلز تک رسائی روک دی گئی۔ کمپنی نے اس رکاوٹ کو ان نیٹ ورکس کا پتہ لگانے اور ختم کرنے کی ایک وسیع کوشش کے حصے کے طور پر بیان کیا جو مالی جرائم اور انسانی حقوق کی خلاف ورزیوں کے لیے اس کے پلیٹ فارم کا غلط استعمال کرتے ہیں۔
یہ کیس AI فراہم کرنے والوں کے لیے بڑھتے ہوئے چیلنج کی نشاندہی کرتا ہے۔ بدنیتی پر مبنی اداکار اب تجارتی زبان کے ماڈلز کو محض بیرونی ہتھیار نہیں سمجھ رہے ہیں - وہ انہیں آپریشنل مڈل ویئر کے طور پر تعینات کر رہے ہیں، انہیں مجرمانہ اداروں کی بیک آفس مشینری میں بنا رہے ہیں۔ اس قسم کے بدسلوکی کا پتہ لگانے کے لیے شکار کا سامنا کرنے والے واضح اشارے سے آگے دیکھنے کی ضرورت ہوتی ہے۔
پتہ لگانے کا ایک نیا مسئلہ
آپریشن کے سیکورٹی تجزیہ سے پتہ چلتا ہے کہ اسکام سے متعلقہ اشارے پر سادہ کلیدی الفاظ کی فلٹرنگ اب کافی نہیں ہے۔ انتظامی استعمال کے معاملات - میمو کا ترجمہ کرنا، قرضوں کا پتہ لگانا، حاضری لگانا - تنہائی میں دنیا کے طور پر پڑھا جاتا ہے اور دھوکہ دہی کے اسکرپٹ کے مقابلے میں جھنڈا لگانا کہیں زیادہ مشکل ہے۔
خلل کی کوریج کے مطابق، اس نوعیت کے غلط استعمال کا پتہ لگانا تیزی سے کراس پلیٹ فارم انٹیلی جنس شیئرنگ اور انتظامی اشارے کے رویے کے تجزیے کا مطالبہ کرتا ہے، جہاں مجرمانہ کارروائیاں الگ آپریشنل قدموں کے نشانات چھوڑتی ہیں یہاں تک کہ جب انفرادی درخواستیں نرم نظر آتی ہیں۔ ایک ماڈل کو "اس مینیجر کے پیغام کا ترجمہ" کرنے کے لیے کہنا فطری طور پر مشکوک نہیں ہے — لیکن اس طرح کے سینکڑوں اشارے، جو کسی معروف کمپاؤنڈ سے منسلک اکاؤنٹس سے شروع ہوتے ہیں، ایک نمونہ بناتے ہیں۔
بڑی تصویر
کمبوڈیا آپریشن اس بات کا تازہ ترین اشارہ ہے کہ تخلیقی AI کے لیے غلط استعمال کی سطح ڈیپ فیکس اور اسپام سے آگے بڑھ گئی ہے۔ جیسے جیسے ٹیکنالوجی پختہ ہوتی جارہی ہے، سب سے زیادہ قدر کا غلط استعمال کم سے کم نظر آسکتا ہے: AI خاموشی سے غیر قانونی کاروبار کی لاجسٹکس چلا رہا ہے، متاثرہ ترجمہ سے لے کر افرادی قوت کے انتظام تک۔
OpenAI اور اس کے حریفوں کے لیے، اس تبدیلی سے مشکل سوالات پیدا ہوتے ہیں کہ نگرانی کی ذمہ داریوں کو کس حد تک بڑھانا چاہیے۔ فراہم کنندگان اکاؤنٹس کو معطل کر سکتے ہیں، لیکن بنیادی مرکبات، اسمگلنگ کے نیٹ ورکس، اور جبری مشقت کے حالات باقی ہیں۔ ڈیجیٹل تہہ میں خلل ڈالنے سے مدد ملتی ہے، لیکن یہ اس جسمانی ڈھانچے کو ختم نہیں کرتا جو ان کارروائیوں کو برقرار رکھتا ہے۔
یہ انکشاف ایک وسیع تر ریگولیٹری لمحے کے درمیان بھی آتا ہے۔ شفافیت کے نئے قوانین کے اثر انداز ہونے اور AI کمپنیوں پر ان کے ماڈلز کے استعمال کے حوالے سے بڑھتے ہوئے دباؤ کے ساتھ، اس طرح کے معاملات نفاذ کی ترجیحات اور تکنیکی تحفظ فراہم کرنے والے دونوں کو مستقبل کے نظام میں تشکیل دینے کا امکان ہے۔
یہ ایک غیر آرام دہ توازن کو بھی نمایاں کرتا ہے۔ وہی زبان کی صلاحیتیں جو ChatGPT کو جائز کاروبار کے لیے قابل قدر بناتی ہیں — ترجمہ، مسودہ، خلاصہ — بالکل وہی ہیں جو اسے سرحدوں اور زبانوں کے پار کام کرنے والے مجرمانہ اداروں کے لیے پرکشش بناتی ہیں۔ ایک ایسا ماڈل جو ایک چھوٹے کاروبار کو درجن بھر ممالک میں صارفین تک پہنچنے میں مدد کر سکتا ہے بالکل اسی طرح آسانی سے ہر براعظم میں اسکام سنڈیکیٹ کو نشانہ بنانے والوں کی مدد کر سکتا ہے۔ فرق ٹیکنالوجی میں نہیں بلکہ اس کے ارد گرد لپٹے انفراسٹرکچر میں ہے، اور یہ وہ جگہ ہے جہاں فراہم کنندگان کو کم سے کم مرئیت حاصل ہوتی ہے۔
آگے کیا آتا ہے۔
اوپن اے آئی کا انکشاف اس کی شفافیت کے لیے اتنا ہی قابل ذکر ہے جتنا کہ رکاوٹ کے لیے۔ نیٹ ورک کے کام کرنے کے طریقے کی تفصیلات شائع کرکے، کمپنی ایک ٹیمپلیٹ پیش کر رہی ہے جسے دوسرے فراہم کنندگان اور قانون نافذ کرنے والے ادارے اسی طرح کے غلط استعمال کی نشاندہی کرنے کے لیے استعمال کر سکتے ہیں۔ لیکن کیس یہ بھی واضح کرتا ہے کہ اکاؤنٹ کی معطلی، خواہ ضروری ہو، ایک مخالف کے خلاف ایک رد عمل ہے جو نئی شناختوں کو گھما سکتی ہے اور نسبتاً آسانی کے ساتھ کاموں کو منتقل کر سکتی ہے۔
سیکیورٹی ٹیموں اور AI فراہم کنندگان کے لیے یکساں طور پر، فائدہ یہ ہے کہ غلط استعمال کے اس طبقے کے خلاف دفاع کے لیے پیٹرن کا پتہ لگانے، کمپنیوں میں ڈیٹا کا اشتراک، اور ایسے حکام کے ساتھ تعاون کی ضرورت ہوگی جو خود جسمانی مرکبات کے خلاف کارروائی کر سکتے ہیں۔ ڈیجیٹل پرت اور جسمانی تہہ، جیسا کہ یہ کیس ظاہر کرتا ہے، اب الگ نہیں ہو سکتے۔
AI سے آگے رہیں
حفاظتی خطرات، اخلاقی مخمصوں، اور مصنوعی ذہانت سے متعلق پالیسی کی بحثوں کے بارے میں مزید جاننے کے لیے، AI Buzz Wire سے بریکنگ AI خبروں کو جاری رکھیں۔
مزید AI خبریں پڑھیں →
