غیر منفعتی ٹیک ٹرانسپیرنسی پروجیکٹ کی تحقیق کے مطابق، WIRED کے ساتھ شیئر کیے گئے اور منگل کو شائع ہونے والے غیر منفعتی ٹیک ٹرانسپیرنسی پروجیکٹ کی تحقیق کے مطابق، کمپنی کی جانب سے بالکل اسی قسم کے مواد کا پتہ لگانے اور بلاک کرنے کے لیے بنائے گئے نئے AI ٹولز کو متعارف کرانے کے چند ہفتوں میں بچوں کے جنسی استحصال کے مواد پر مشتمل 250 سے زیادہ اضافی اشتہارات میٹا کے پلیٹ فارمز پر دوڑے۔ تلاش کمپنی کے اس دعوے کو کم کرتی ہے کہ اس کی اے آئی سے چلنے والی اشتہاری اسکریننگ نے بڑے پیمانے پر خلا کو ختم کردیا تھا، اور یہ اس وقت سامنے آیا جب قانون سازوں کا کہنا ہے کہ وہ تحقیقات کا ارادہ رکھتے ہیں۔
نئے اعداد و شمار پہلے کے انکشاف کو بڑھاتے ہیں۔ پچھلے مہینے، میٹا نے فیس بک، انسٹاگرام اور تھریڈز پر پوسٹ کیے گئے تقریباً 50 اشتہارات کو حذف کر دیا جس میں وائرڈ کی پچھلی رپورٹنگ کے بعد، براہ راست بچوں کے جنسی استحصال کا مواد شامل تھا۔ اس وقت، کمپنی نے کہا کہ زیادہ تر بدسلوکی والے اشتہارات نئے AI کا پتہ لگانے والے ٹولز کو تعینات کرنے سے پہلے شائع کیے گئے تھے۔ متوقع کمی کے بجائے، محققین کا کہنا ہے کہ انہیں حالیہ ہفتوں میں سینکڑوں مزید اشتہارات ملے - جن میں سے کچھ ایسے اشتہارات جیسے میٹا نے ابھی ہٹائے تھے۔ پلیٹ فارم کی حفاظت اور تازہ ترین AI خبروں کی مسلسل کوریج کے لیے، AI Buzz Wire کو فالو کریں۔
ناکامی کا پیمانہ
مجموعی طور پر، ٹیک ٹرانسپیرنسی پروجیکٹ کے محققین نے فیس بک، انسٹاگرام، میسنجر، تھریڈز اور میٹا کے وسیع تر ایڈورٹائزنگ نیٹ ورک پر پھیلے ہوئے، گزشتہ سال کے آخر سے میٹا کے پلیٹ فارمز پر چلنے والے 350 سے زیادہ بدسلوکی والے ویڈیو اشتہارات کو دستاویزی شکل دی ہے۔ گروپ کی جانب سے شناخت کیے گئے 53 اشتہارات کے ابتدائی سیٹ کے برعکس، نئے بیچ میں خالص مصنوعی اشتھارات کی بجائے حقیقی بچوں کی تصاویر شامل تھیں۔ وائرڈ نے تصدیق کی کہ ایک ذریعہ تصویر یورپی شاہی خاندان کی سرکاری ویب سائٹ سے آئی ہے۔ محققین کا کہنا ہے کہ خاندان کے ایک نابالغ فرد کی باضابطہ طور پر جاری کی گئی تصویر کو ایک ویڈیو میں تبدیل کیا گیا جس میں جنسی عمل کو دکھایا گیا تھا۔ محققین متاثرہ کی حفاظت کے لیے شاہی کا نام نہیں لے رہے ہیں اور کہتے ہیں کہ انھوں نے متعلقہ ملک کے حکام سے رابطہ کیا۔
گروپ کی ڈائریکٹر کیٹی پال نے WIRED کو بتایا کہ مسئلہ صرف AI سے تیار کردہ تصویروں تک محدود نہیں ہے۔ "ہم یہاں جس چیز کے بارے میں بات کر رہے ہیں وہ صرف AI سے تیار کردہ بچوں کے جنسی استحصال کا مواد نہیں ہے،" انہوں نے کہا، یہ نوٹ کرتے ہوئے کہ اشتہارات میں استعمال ہونے سے پہلے بہت سی تصاویر کھلے ویب سے لی گئی ہیں۔ "اس سب سے بہت زیادہ نقصان ہو سکتا ہے جب کہ میٹا اس عمل میں پیسہ کما رہا ہے۔" محققین نے چار نابالغوں کی حقیقی دنیا کی شناخت کی جن کی تصاویر اشتہارات میں استعمال کی گئی تھیں۔
نیوڈیفیکیشن ایپس میں ایک فنل
رپورٹنگ کے مطابق اشتہارات ایک مستقل پیٹرن کی پیروی کرتے ہیں۔ بہت سے لوگ ایک پریٹین یا نوعمر لڑکی کی بے ضرر تصویر پر کھلتے ہیں - محققین کو صرف ایک میں ایک لڑکا نظر آتا ہے - متن کے ساتھ چھپا ہوا ہے جس میں اعلان کیا گیا ہے کہ تصویر "صرف ایک تصویر نہیں ہے" اور یہ کہ اس کے ساتھ کیا کیا جاسکتا ہے اس پر "کوئی پابندی نہیں" ہے۔ جب مختصر ویڈیو چلتی ہے، تو بچے کے چہرے کو ایک واضح ویڈیو میں تبدیل کر دیا جاتا ہے۔ ایپل اور گوگل کے ایپ اسٹورز میں دستیاب AI فیس سویپنگ اور "نوڈیفیکیشن" ایپس کے ذریعے کلک کرنے سے کئی چینی ڈویلپرز سے منسلک ہیں۔ WIRED نے میٹا کے پلیٹ فارمز پر بالغوں کی تصویر کشی کرنے والے سینکڑوں متعلقہ نوڈیفیکیشن اشتہارات کی الگ سے شناخت کی۔
سست جائزے اور گمشدہ انکشافات
میٹا کی پالیسیاں بتاتی ہیں کہ کمپنی ان تمام اشتہارات کا جائزہ لیتی ہے جو اس کے پلیٹ فارم پر چلتے ہیں، اور اشتہارات نے بچوں کے استحصال، بالغوں کے استحصال اور عریانیت سے متعلق اس کے قوانین کی خلاف ورزی کی ہے۔ عملی طور پر، محققین نے رپورٹ کیا، کبھی کبھی میٹا کو لائیو اشتہارات کا جائزہ لینے میں ایک ہفتے تک کا وقت لگتا ہے جو کمپنی کے اپنے ٹولز کے ذریعے رپورٹ کیے گئے تھے - جس کے دوران اشتہارات نے سینکڑوں اضافی آراء جمع کیں، WIRED کے جائزہ اسکرین شاٹس کے مطابق۔ جب کچھ اشتہارات ہٹا دیے گئے، تو ان کے ہٹانے کے ریکارڈ میں ابتدائی طور پر اس بات کا کوئی انکشاف نہیں تھا کہ انہوں نے کمپنی کی بچوں کے جنسی استحصال کی پالیسیوں کی خلاف ورزی کی ہے۔ یہ تفصیلات تب ہی سامنے آئیں جب WIRED نے Meta سے تضاد کے بارے میں پوچھا۔
محققین نے اپنے پائے جانے والے ہر اشتہار کی اطلاع نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن سائبر ٹِپ لائن اور میٹا کے رپورٹنگ ٹولز کے ذریعے رپورٹ کی۔ Meta کی اپنی اشتہاری لائبریری سے پتہ چلتا ہے کہ اشتہارات مجموعی طور پر یورپی یونین کے ممالک میں 29,000 سے زیادہ اکاؤنٹس اور برطانیہ میں تقریباً 7,000 اکاؤنٹس پر دکھائے گئے، جن میں سے 250 سے زیادہ ریاستہائے متحدہ میں، 120 آسٹریلیا میں اور 80 ہندوستان میں دکھائے گئے — اعداد و شمار جو ممکنہ طور پر کل رسائی کو کم بتاتے ہیں، کیونکہ کچھ ممالک میں اشتہاری کارکردگی کا فقدان ہے۔
میٹا جواب دیتا ہے۔
میٹا نے نتائج کی اہمیت کو پیچھے دھکیل دیا۔ کمپنی کی ترجمان ٹریسی کلیٹن نے وائرڈ کو بتایا، "ہم عریانی ایپس یا بچوں کے کسی بھی قسم کے استحصال کو برداشت نہیں کرتے، خواہ وہ حقیقی ہو یا AI سے تیار کردہ،" کمپنی کی ترجمان ٹریسی کلیٹن نے وائرڈ کو بتایا کہ کمپنی اس سے قبل اپنی عریانی پالیسیوں کی خلاف ورزی کرنے پر لاکھوں اشتہارات کو ہٹا چکی ہے۔ میٹا نے کہا کہ محققین کو ملنے والے بہت سے اشتہارات پہلے ہی ہٹا دیے گئے تھے، جن میں سے زیادہ تر کو 200 سے کم نقوش موصول ہوئے تھے، اور یہ کہ اس نے اشتہار کی ادائیگیوں میں $5,000 سے کم رقم جمع کی تھی۔ کمپنی نے یہ بھی کہا کہ AI سے تیار کردہ ویڈیوز میں بالغوں کو دکھایا گیا ہے جبکہ نابالغوں پر مشتمل کلپس مختصر یا دھندلی تھیں، جس سے پتہ لگانا زیادہ مشکل ہو گیا، اور یہ NCMEC کو بچوں کے استحصال کے مواد کی اطلاع دیتا ہے۔
قانون ساز اور ریگولیٹرز حرکت میں آتے ہیں۔
متعدد قانون ساز اور ریگولیٹرز اب کہتے ہیں کہ وہ WIRED کی رپورٹنگ کے بعد اشتہارات کی چھان بین کر رہے ہیں۔ ورجینیا کے سینیٹر مارک وارنر، جنہوں نے پہلے کی رپورٹنگ کے بعد میٹا کے سی ای او مارک زکربرگ کو ایک خط بھیجا، کہا کہ یہ مایوس کن ہے کہ میٹا بچوں کے جنسی استحصال کے مواد اور غیر متفقہ مباشرت کی تصاویر کو ان کی توجہ میں لانے کے بعد اشتہارات چلانا جاری رکھے ہوئے ہے۔ مشی گن کے اٹارنی جنرل نے کہا کہ دفتر "معاملے کو فعال طور پر دیکھ رہا ہے،" فلوریڈا کے اٹارنی جنرل نے پوسٹ کیا کہ ان کا دفتر تحقیقات کر رہا ہے، اور آسٹریلیا کے ای سیفٹی ریگولیٹر نے کہا کہ یہ "انتہائی فکر مند" ہے اور میٹا سے سینئر سطح پر معلومات کی درخواست کی ہے۔
جانچ پڑتال ایک کمپنی پر دباؤ ڈالتی ہے جو پہلے سے ہی 16.7 بلین ڈالر تک کی ادائیگی کر رہی ہے تاکہ اس کے سوشل نیٹ ورکس پر بچوں کو نقصان پہنچانے کا الزام لگانے والے مقدمے کا تصفیہ کیا جا سکے، اور نیو میکسیکو کی عدالت کے فیصلے کی اپیل کی جائے جس کے لیے اسے اپنے CSAM رپورٹنگ کے عمل کو بہتر بنانے کی ضرورت ہوگی۔ AI انڈسٹری کے لیے وسیع تر سوال یہ ہے کہ کیا خودکار اعتدال غلط استعمال کے ساتھ رفتار برقرار رکھ سکتا ہے جو بذات خود AI کی مدد سے بڑھتا جا رہا ہے - اور اس بات کا ثبوت ہے کہ پتہ لگانے کا نظام ان سیکڑوں خلاف ورزی کرنے والے اشتہارات کو پکڑنے میں ناکام رہا کیوں کہ یہ فکس ان بحثوں میں براہ راست حصہ ڈالے گا۔
AI سے آگے رہیں
تازہ ترین AI پیشرفت اور مصنوعی ذہانت سے متعلق خبروں کی پیروی کریں کیونکہ ریگولیٹرز اور پلیٹ فارمز AI سے چلنے والے نقصانات سے لڑتے ہیں۔
مزید AI خبریں پڑھیں →
