OpenAI نے جمعرات کو کہا کہ اس نے اثر و رسوخ کی دو خفیہ کارروائیوں پر پابندی لگا دی ہے - ایک روس سے شروع ہوئی اور ایک ایران میں - جس نے ChatGPT کا استعمال جدید ترین "جھوٹے محاذ" اداروں کو چلانے کے لیے کیا جو جغرافیائی سیاسی پروپیگنڈے کو حقیقی میڈیا آؤٹ لیٹس میں لانڈر کرنے کے لیے بنائے گئے تھے۔ کمپنی نے کہا کہ روس سے تعلق رکھنے والی مہم سب سے زیادہ دور رس اثر و رسوخ کی کارروائی ہے جس نے ڈھائی سال قبل دھمکیوں کی رپورٹیں شائع کرنے کے بعد سے اس میں خلل ڈالا ہے۔

اوپن اے آئی کی ویب سائٹ پر شائع ہونے والا یہ انکشاف، رپورٹس کے سلسلے میں تازہ ترین اندراج ہے کہ کس طرح ریاست سے منسلک اداکار تجارتی AI ماڈلز کا غلط استعمال کرتے ہیں۔ یہ اس بات پر بھی روشنی ڈالتا ہے، جیسا کہ ہم نے اپنی تازہ ترین بریکنگ AI نیوز راؤنڈ اپ میں نوٹ کیا ہے، اوپن اے آئی نے 2024 کے اوائل سے لے کر اب تک 30 خفیہ کارروائیوں کا مشاہدہ کیا ہے: وہ مہم جو اپنے مواد کو حقیقی اشاعتوں میں رکھنے میں کامیاب ہوتی ہیں، جعلی سوشل میڈیا اکاؤنٹس پر انحصار کرنے والوں سے کہیں زیادہ سامعین تک پہنچتی ہیں۔

ایک زمرہ 5 پہلا: آپریشن "ڈارک کلارک"

روسی آپریشن، جسے OpenAI کا عرفی نام "ڈارک کلارک" ہے، لاطینی امریکہ میں سوشل ریسرچ سینٹر (SRC) نامی ایک خود ساختہ تحقیقی تنظیم پر مرکوز تھا۔ OpenAI کے مطابق، آپریٹرز نے "میا کلارک" نامی من گھڑت شخصیت کے ذریعے تھنک ٹینک کو کنٹرول کیا، جب کہ لاطینی امریکہ میں مقامی ملازمین نے انٹرویوز کیے اور تحقیقی کاغذات تیار کیے بغیر یہ جانے کہ وہ روسی گروپ کے لیے کام کر رہے ہیں۔

بریک آؤٹ اسکیل کا استعمال کرتے ہوئے - بروکنگز میں تیار کردہ اثر و رسوخ کے آپریشن کی ممکنہ رسائی کا 1 سے 6 پیمانہ - اوپن اے آئی نے ڈارک کلارک کو کیٹیگری 5 میں جانچا، جو اس کی رپورٹنگ شروع ہونے کے بعد سے کسی بھی آپریشن کو تفویض کی گئی سب سے زیادہ درجہ بندی ہے۔ ایرانی نژاد مہم کیٹیگری 4 تک پہنچ گئی۔

اوپن اے آئی نے کہا کہ آپریٹرز کا زیادہ تر ChatGPT استعمال کسی نامعلوم ہینڈلر کو داخلی رپورٹس میں چلا گیا، یوکرین کو بدنام کرنے، یوکرین کی مسلح افواج کے لیے بھرتی کو کمزور کرنے، اور ارجنٹائن اور بولیویا کی ملکی سیاست میں مداخلت کی مہمات بیان کرتے ہوئے۔ آپریٹرز نے زیادہ تر روسی زبان میں اشارہ کیا اور سروس تک رسائی کے لیے VPNs پر انحصار کیا، جو روس سے ٹریفک کو روکتا ہے۔

اوپن اے آئی کے محققین نے کھلے ذرائع سے آپریشن کی دعوی کردہ مہموں میں سے کئی کی تصدیق کی۔ ایک میں جعلی ای میلز شامل ہیں جن میں لیما کے علاقائی تعلیم کے ڈائریکٹوریٹ سے آنے کا ارادہ کیا گیا تھا، جس میں پیرو کے دارالحکومت میں اسکولوں کو ہدایت کی گئی تھی کہ وہ یوکرین کی متنازعہ قوم پرست شخصیت - اسٹیپن بانڈرا کے اعزاز میں قومی تنوع کے دن پر تقریبات منعقد کریں۔ پیرو اور پولش آؤٹ لیٹس نے آنے والے تنازعہ کا احاطہ کیا، اور اس کی کوریج میں یورپی پارلیمنٹ کے ایک پولش رکن کا حوالہ دیا گیا۔ ایکواڈور میں، آپریٹرز نے جعلی ای میل ایڈریس کا استعمال کرتے ہوئے اسکولوں کو صدر ڈینیئل نوبوا اور بلیک واٹر کے سابق سربراہ ایرک پرنس سے وفاداری کا عہد کرنے کے لیے دھوکہ دیا۔ اس اسٹنٹ نے میڈیا کوریج اور ایکواڈور کے وزیر تعلیم کی طرف سے عوامی تردید کی۔

اس آپریشن نے من گھڑت آڈیو ریکارڈنگ بھی پھیلائی، جن میں سے ایک بولیویا کی ریاستی پانی کی کمپنی EPSAS کے ایک کارکن سے منسوب ہے جس میں دعویٰ کیا گیا ہے کہ حکومت لا پاز کو سپلائی کم کر دے گی، اور دوسری ایکواڈور میں یوکرین کے قونصل سے منسوب ہے۔ دونوں ممالک میں حقائق کی جانچ کرنے والوں نے ان دعوؤں کو مسترد کردیا۔ اوپن سورس کے محققین نے پہلے بھی اسی طرح کی سرگرمی کو "پولیٹولوجی" یا "لا کمپانیا" سے جوڑ دیا ہے، جسے مرحوم یوگینی پریگوزین کے آپریشن کے جانشین کے طور پر بیان کیا گیا ہے، اور آپریٹرز کی اپنی رپورٹس میں دعویٰ کیا گیا ہے کہ ارجنٹائن کے صدر جیویر میلی کو نشانہ بنانے والی مہم جو عوامی رپورٹنگ سے مماثل ہے۔

سات جعلی صحافی: آپریشن "بوگس بائی لائنز"

ایرانی آپریشن نے میڈیا کے ماحولیاتی نظام میں ایک مختلف راستہ اختیار کیا۔ اس کے آپریٹرز، جنہوں نے ChatGPT کو فارسی میں اشارہ کیا، نے اس ماڈل کو امریکہ-ایران تنازعہ کے بارے میں انگریزی زبان کے طویل شکل کے مضامین کو بہتر بنانے کے لیے استعمال کیا، پھر انہیں سات من گھڑت صحافی شخصیات کا استعمال کرتے ہوئے چھوٹے اور درمیانے سائز کے آن لائن آؤٹ لیٹس کے ایڈیٹرز کے سامنے پیش کیا: Ervin B. Hoskins، Noah Lamington، Sophia Gonzalez، William Harrice، Ali مائیکل ہارس، اور علی مائیکل جانسن۔

OpenAI نے دنیا بھر میں تقریباً ایک درجن آؤٹ لیٹس میں ان بائی لائنز کے تحت شائع یا سنڈیکیٹ کیے گئے تقریباً 100 مضامین کی نشاندہی کی، جن میں سب سے زیادہ توجہ بین الاقوامی امور اور مشرق وسطیٰ پر مرکوز تھی۔ اس آپریشن نے سوشل میڈیا کے تبصروں کی کھیپ بھی تیار کی، حالانکہ OpenAI نے کہا کہ یہ بہت کم حقیقی مصروفیات ہیں - اور نوٹ کیا کہ آپریٹرز نے اپنے سوشل میڈیا کے ظاہری اثرات کو بڑھانے کے لیے اپنی اندرونی رپورٹوں میں دھوکہ دہی کا حساب لگایا۔ کمپنی نے کہا کہ یہ سرگرمی ایک تجارتی اداکار کے ساتھ مطابقت رکھتی ہے جو کرایہ کے لیے اثر و رسوخ کی مہم چلا رہی ہے، اور اس نے متعلقہ حکام کے ساتھ معلومات کا اشتراک کیا ہے۔

پرانا ٹریڈ کرافٹ، نئے ٹولز

اوپن اے آئی نے لکھا، جو چیز محققین کو سب سے زیادہ متاثر کرتی ہے، وہ یہ ہے کہ دونوں آپریشنز AI سے پہلے کے دور کی اثر انگیز مہمات سے کتنے قریب تھے۔ جعلی صحافی شخصیات "ایلس ڈونووین" سے خاندانی مماثلت رکھتی ہیں، جو کہ روسی ملٹری انٹیلی جنس کے لیے ایک فرضی رپورٹر ہے جس کے آپشن 2016 اور 2017 میں مغربی آؤٹ لیٹس میں شائع ہوئے۔

AI نے یہ تکنیکیں ایجاد نہیں کیں - اس نے انہیں سستا، تیز اور زیادہ روانی بنا دیا۔ آپریٹرز نے مقامی الفاظ اور ادارہ جاتی انداز کے مطابق جعلی سازی کے لیے ماڈلز کا استعمال کیا، اسکرپٹ کا علاقائی ہسپانوی شکلوں میں ترجمہ کیا، اور ایڈیٹرز کے لیے پالش پچ ای میلز تیار کیں۔ لیکن اوپن اے آئی نے استدلال کیا کہ جھوٹے سامنے کی کارروائیوں کی خفیہ، فرد سے فرد کی نوعیت بھی انہیں نمائش کے لیے خطرناک بناتی ہے: ایلس ڈونووین اور پیس ڈیٹا دونوں ہی عوامی طور پر نام آنے کے بعد بند ہو گئے۔

شواہد کو غور سے پڑھنا

اوپن اے آئی اپنے نتائج سے خبردار رہنے میں محتاط تھا۔ آپریٹرز نے معمول کے مطابق ان واقعات کے لیے کریڈٹ کا دعویٰ کیا جس سے ان کا کوئی تعلق نہیں تھا، اور کچھ جعلی جو انھوں نے پودے لگانے کی اطلاع دی تھی وہ کھلے ذرائع میں نہیں مل سکے۔ OpenAI جس چیز کی تصدیق کر سکتا ہے - حقائق کی جانچ پڑتال، سرکاری تردید، اور آپریٹرز کی وضاحتوں سے مماثل شائع شدہ مضامین کے ذریعے - کم از کم چار ممالک میں میڈیا اور سیاسی گفتگو کے حقیقی دخول کی تجویز کرتا ہے۔

AI انڈسٹری کے لیے، رپورٹ ایک یاد دہانی ہے کہ غلط معلومات میں ماڈلز کے سب سے زیادہ مؤثر استعمال اکثر کم نظر آتے ہیں: اندرونی رپورٹوں کا مسودہ تیار کرنا، پچوں کو بہتر بنانا، ترجمے کو چمکانا۔ ان مہمات کا پتہ لگانے کے لیے جو ادارے بہترین پوزیشن میں ہیں، جیسا کہ OpenAI کے پہلے کیسز نے دکھایا ہے، اکثر وہ پلیٹ فارم ہوتے ہیں جن کے اپنے ٹولز انہیں چلانے کے لیے استعمال کیے جاتے ہیں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →