ایڈنبرا یونیورسٹی میں قائم گلوبل چائلڈ سیفٹی انسٹی ٹیوٹ چائلڈ لائٹ کے اعداد و شمار کے مطابق، جنریٹو اے آئی سے منسلک بچوں کے جنسی استحصال کے مواد کی رپورٹیں 2023 میں تقریباً 4,700 سے بڑھ کر 2025 میں 400,000 سے زیادہ ہو گئی ہیں - دو سالوں میں 8,400 فیصد سے زیادہ کا اضافہ۔

یہ اعدادوشمار پیر 16 نومبر کو چائلڈ لائٹ کے 2026 انٹو دی لائٹ انڈیکس کے حصے کے طور پر شائع کیے گئے تھے اور دی گارڈین نے رپورٹ کی تھی۔ وہ ان حوالہ جات کی نمائندگی کرتے ہیں جو ٹیکنالوجی کمپنیوں نے یو ایس نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن (NCMEC) کے پاس جمع کروائے — ایک شمار جو پلیٹ فارمز نے کیا پتہ لگایا اور رپورٹ کیا، گردش میں ہر چیز کی مردم شماری نہیں۔ یہ اضافہ ابھی تک سب سے واضح مقداری سگنل ہے کہ صنعت کی طرف سے طویل عرصے سے افق پر ایک خطرے کے طور پر بیان کردہ AI کے غلط استعمال کو آن لائن بچوں کے استحصال کی رپورٹنگ کے سب سے بڑے زمروں میں سے ایک بن گیا ہے، پلیٹ فارم کی حفاظت اور ضابطے کی جاری [بریکنگ AI نیوز کوریج] (https://aibuzzwire.news) میں دستاویزی تبدیلی۔

4,700 سے 400,000 ریفرلز

انڈیکس رپورٹوں کو ٹریک کرتا ہے کہ ٹیکنالوجی کمپنیوں کو قانونی طور پر NCMEC کو بھیجنے کی ضرورت ہوتی ہے جب وہ اپنی خدمات پر بچوں کے جنسی استحصال کے مشتبہ مواد کا پتہ لگاتے ہیں۔ 2023 میں تقریباً 4,700 ریفرلز سے 2025 میں 400,000 سے زیادہ نقشے تک پہنچ گئے جو تقریباً اسی عرصے کے دوران امیج جنریٹرز اور سستے فائن ٹیوننگ ٹولز کے صارفین کے رول آؤٹ پر ہے۔

سرخی کا اعداد و شمار گردش میں واحد نمبر نہیں ہے۔ NCMEC نے الگ سے کہا ہے کہ اس کی سائبر ٹِپ لائن کو جنوری اور ستمبر 2025 کے درمیان 10 لاکھ سے زیادہ جنریٹو-AI سے متعلق رپورٹس موصول ہوئی ہیں - جو کہ 400,000 چائلڈ لائٹ کے حوالہ جات سے زیادہ ہیں، جو دونوں شماروں کے دائرہ کار میں فرق کو ظاہر کرتی ہیں۔ دونوں ڈیٹا سیٹ اوور لیپنگ لیکن الگ الگ چیزوں کی پیمائش کرتے ہیں، اور دونوں ایک ہی سمت کی طرف اشارہ کرتے ہیں۔

اصلی بچوں کی ایپس اور ڈیپ فیکس کو نیوڈیفائی کریں۔

چائلڈ لائٹ کی رپورٹ نام نہاد nudify ایپس کی ترقی پر بھی روشنی ڈالتی ہے، جو بچے کے چہرے کو واضح تصویروں پر رکھنے کے لیے جنریٹو AI کا استعمال کرتی ہیں۔ تصاویر مصنوعی ہیں، لیکن نقصان نہیں ہے: تصاویر حقیقی بچوں کو دکھاتی ہیں، مجرموں کے درمیان شیئر کی جاتی ہیں، اور نابالغوں کو بلیک میل اور ہراساں کرنے کے لیے تیزی سے استعمال ہوتی ہیں۔

چائلڈ لائٹ کے ڈیٹا کے ڈائریکٹر پروفیسر ڈیبی فرائی نے کہا کہ گارڈین کی رپورٹنگ کے مطابق، جس رفتار سے AI بچوں کے لیے خطرے کو تبدیل کر رہا ہے، وہ انتہائی تشویشناک ہے۔ تشویش اب فرضی صلاحیت نہیں بلکہ صنعتی پیمانے پر پیداوار ہے: 2023 میں جس کوشش اور مہارت کی ضرورت ہے اس کے لیے اب صرف ایک ایپ اسٹور ڈاؤن لوڈ کی ضرورت ہے۔

واچ ڈاگ کیا ڈھونڈ رہے ہیں۔

آزاد تشخیص مسئلے کے پیمانے کی تصدیق کرتے ہیں۔ انٹرنیٹ واچ فاؤنڈیشن، یو کے واچ ڈاگ جو کہ رپورٹ شدہ مواد کا براہ راست جائزہ لیتا ہے، نے 6,310 AI سے تیار کردہ تصاویر تلاش کیں جو 2026 کی پہلی ششماہی میں بچوں کے جنسی استحصال کی قانونی تعریف پر پورا اترتی ہیں – جو کہ 2025 کے تمام مقابلے میں 40% زیادہ ہے۔

ویڈیو کی رفتار اب بھی زیادہ ہے۔ IWF نے 2025 میں AI سے پیدا ہونے والی 3,440 بچوں کے ساتھ جنسی زیادتی کی ویڈیوز کی نشاندہی کی، جو کہ 2024 میں صرف 13 سے زیادہ تھی، اور ان میں سے 65% کیٹیگری A میں تھیں، جو کہ برطانیہ کے قانون کے تحت سب سے سخت گریڈ ہے۔ ایک سال میں 13 سے 3,440 تک چھلانگ ظاہر کرتی ہے کہ ٹولز اسٹیل امیجز سے ویڈیو کو منتقل کرنے کے لیے اس تیزی سے منتقل ہو گئے ہیں جو پتہ لگانے کے نظام کے مطابق ہو سکتے ہیں۔

ریگولیشن پکڑنے کی دوڑ میں ہے۔

برطانیہ اب تک سب سے آگے چلا گیا ہے۔ کرائم اینڈ پولیسنگ ایکٹ 2026 کے تحت، حکومت کی اپنی فیکٹ شیٹ کے مطابق، اب بچوں کے ساتھ بدسلوکی کے مواد کو تیار کرنے کے لیے بنائے گئے AI ٹولز کو رکھنا، بنانا یا تقسیم کرنا ایک مجرمانہ جرم ہے، جس کی سزا پانچ سال تک قید ہے۔ اسی قانون سازی کے ذریعے نوڈیفیکیشن ٹولز بنانے یا سپلائی کرنے کو جرم قرار دیا جاتا ہے - ایک ایسی فراہمی جس کا مقصد براہ راست ایپ ڈویلپرز کے پیچھے ہے۔

دوسری جگہ تصویر پتلی ہے۔ چائلڈ لائٹ کے انڈیکس نے پایا کہ اس نے جانچنے والے 103 ممالک میں سے صرف 22 کے پاس جامع سروے ڈیٹا ہے جس میں آف لائن اور ٹیکنالوجی کی سہولت والے بچوں کے ساتھ بدسلوکی کا احاطہ کیا گیا ہے، یعنی زیادہ تر حکومتیں قابل اعتماد بیس لائن کے بغیر قانون سازی کر رہی ہیں۔ انسٹی ٹیوٹ سخت آن لائن حفاظتی قوانین، بہتر ڈیٹا اکٹھا کرنے، ٹیکنالوجی کے شعبے سے زیادہ جوابدہی اور اس سے قبل روک تھام کے کام کا مطالبہ کر رہا ہے۔

رپورٹنگ پائپ لائن کا مسئلہ

نمبروں کی تشریح کرتے وقت ایک حد اہمیت رکھتی ہے: ڈیٹا مخصوص ماڈلز یا پلیٹ فارم کو رپورٹ کردہ مواد کے ماخذ کے طور پر نام نہیں دیتا۔ تجاویز ٹیکنالوجی فرموں کی طرف سے آتی ہیں جو اپنی خدمات کو اسکین کرتی ہیں اور جو کچھ وہ ڈھونڈتی ہیں اس کی اطلاع دیتی ہیں - جس کا مطلب ہے کہ جو کمپنی اسکین نہیں کرتی وہ رپورٹیں نہیں بناتی۔ کھوج کی قیادت والی رپورٹنگ، جیسا کہ گارڈین کے رپورٹنگ نوٹ، ایک پتلی قسم کی حفاظت ہے، اور اعداد و شمار کا اگلا مجموعہ یہ ظاہر کرے گا کہ اصل میں کون سی کمپنیاں دیکھ رہی ہیں۔

اے آئی انڈسٹری کے لیے، انڈیکس کا پیغام غیر واضح ہے۔ جنریٹو ٹولز کا غلط استعمال اب ماڈل کارڈ کے رسک سیکشن میں پروجیکشن نہیں ہے۔ یہ لیجر میں سب سے بڑی لائن ہے، اور جن کمپنیوں کے ماڈلز اور ایپس نے غلط استعمال کو سستا بنا دیا ہے ان سے اس کی ادائیگی کے لیے کہا جائے گا — نفاذ کی کارروائیوں، تعمیل کے اخراجات اور قانون میں۔

AI سے آگے رہیں

اے آئی سیفٹی اور ریگولیشن پر ہونے والی بحث کی پیروی کریں جیسا کہ یہ سامنے آتا ہے۔ مزید AI خبریں پڑھیں →