xAI کو ایک مجوزہ طبقاتی کارروائی کا سامنا ہے جس میں پہلی بار کمپنی پر الزام لگایا گیا ہے کہ وہ اپنے Grok ماڈلز کو بچوں کے جنسی استحصال کے مواد پر تربیت دے رہی ہے، حقیقی اور AI سے تیار کردہ۔ شکایت، بدھ کو درج کی گئی اور ارس ٹیکنیکا کے ذریعہ رپورٹ کی گئی ہے، عدالت کے حکم پر کمپنی کے سرورز پر ذخیرہ شدہ ایسے کسی بھی مواد کو تباہ کرنے اور گروک جنسی مواد کو ہینڈل کرنے کے طریقہ کار میں بڑی تبدیلیوں کا مطالبہ کرتی ہے۔

یہ الزامات دیوانی قانونی چارہ جوئی میں کیے گئے غیر ثابت شدہ دعوے ہیں۔ X، جو xAI کا مالک ہے، نے فائلنگ پر تبصرہ کرنے کے لیے Ars Technica کی درخواست کا جواب نہیں دیا۔ For more context on this story, see our ongoing latest AI developments.

مدعی اور الزامات

مدعی، جس کی شناخت جین ڈو کے نام سے ہوئی، نے شکایت میں الزام لگایا ہے کہ وہ 2000 کی دہائی کے اوائل میں پری اسکول کی عمر کا شکار تھی جب اس کے ساتھ بدسلوکی کی تصاویر آن لائن بنائی اور فروخت کی گئیں۔ ان تصاویر کو طویل عرصے سے نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن (NCMEC) اور کینیڈین سینٹر فار چائلڈ پروٹیکشن (CCCP) کے زیر انتظام ہیش لسٹوں میں کیٹلاگ کیا گیا ہے، وہ تنظیمیں جو کہ معلوم بدسلوکی کے مواد کو ٹریک کرتی ہیں تاکہ اس کا پتہ لگانے اور ہٹانے کے قابل ہوں۔

شکایت کے مطابق، CCCP نے Doe کو مطلع کیا کہ اس نے AI سے تیار کردہ بدسلوکی والے مواد کی نشاندہی کی ہے جس میں اسے xAI کے پلیٹ فارم پر دکھایا گیا ہے۔ اس کے وکلاء نے ایک پریس ریلیز میں کہا ہے کہ اس کی NCMEC ہیش لسٹ کے اندراجات سے مماثل مواد "ڈیٹا سیٹ xAI کا حصہ تھا جو Grok کی تصویر اور ویڈیو بنانے کی صلاحیتوں کو بنانے کے لیے استعمال کیا جاتا تھا۔" شکایت میں مزید الزام لگایا گیا ہے کہ آن لائن فورمز پر پائے جانے والے پیغامات میں مجرموں کو دکھایا گیا ہے کہ وہ Doe اور میراثی بدسلوکی کے مواد کے دیگر معروف متاثرین کی AI سے تیار کردہ بدسلوکی کی تصاویر بنانے پر بات کر رہے ہیں۔

قانونی نظریہ: تربیتی ڈیٹا، نہ صرف آؤٹ پٹ

جو چیز اس فائلنگ کو xAI کے خلاف پہلے کی قانونی چارہ جوئی سے ممتاز کرتی ہے وہ انفرادی صارفین کی تخلیق کردہ چیزوں کے بجائے خود ماڈل پر مرکوز ہے۔ شکایت کا استدلال ہے کہ چونکہ Grok کی سروس کی شرائط X پر عوامی پوسٹس اور Grok کے اپنے آؤٹ پٹس کو بطور ڈیفالٹ ٹریننگ ڈیٹا مانتی ہیں، اس لیے عوامی طور پر پوسٹ کی جانے والی کوئی بھی چیز براہ راست ماڈل کو ٹریننگ اور بہتر بنانے کے لیے استعمال ہونے والی پائپ لائن میں فیڈ کرتی ہے۔

فائلنگ تسلیم کرتی ہے کہ xAI اپنے تربیتی ڈیٹا سے پرتشدد مواد کو فلٹر کرتا ہے، لیکن استدلال کرتا ہے کہ کمپنی کی شرائط اس بات کی وضاحت نہیں کرتی ہیں کہ آیا بچوں کے جنسی استحصال کا مواد، غیر متفقہ مباشرت کی تصاویر، یا دیگر بالغ مواد خارج شدہ زمروں میں آتے ہیں۔ اس کا یہ بھی استدلال ہے کہ یہاں تک کہ جہاں توہین آمیز تصاویر ہٹا دی جاتی ہیں، پہلے سے تربیت یافتہ ماڈل پر تربیتی مثال کے اثر و رسوخ کو مکمل طور پر ہٹانا تکنیکی طور پر مشکل ہے - اور یہ کہ xAI نے عوامی طور پر ایسا کرنے کا دعویٰ نہیں کیا ہے۔

مقدمہ کیا چاہتا ہے۔

اگر مجوزہ کلاس تصدیق شدہ ہے، تو یہ ہر اس شخص کی نمائندگی کرے گی جس کے بچپن کی تصاویر مبینہ طور پر گروک کے ساتھ بدسلوکی کا مواد تیار کرنے کے لیے استعمال کی گئی تھیں۔ اس مقدمے میں چائلڈ پورنوگرافی کے وفاقی قوانین اور ماشا کے قانون کی درخواست کی گئی ہے، جو بدسلوکی کے مواد سے بچ جانے والوں کو اس کی پیداوار، قبضے اور تقسیم پر مقدمہ کرنے کا حق دیتے ہیں۔

ڈو کے وکیلوں میں سے ایک مارگریٹ ای مابی نے ارس ٹیکنیکا کے حوالے سے پریس ریلیز میں کہا، "تینوں ہی جرائم ہیں، اور xAI نے تینوں کیے ہیں۔"

مالی نقصانات کے علاوہ، Doe عدالت سے مطالبہ کر رہا ہے کہ وہ xAI کو حکم دے کہ وہ Grok سے تیار کردہ بدسلوکی کے تمام مواد کو تباہ کر دے جو اسے ذخیرہ اور تربیت کے لیے استعمال کیا جا سکتا ہے، اور ماڈل کو کسی بھی قسم کی جنسی پیداوار پیدا کرنے سے روکنے کے لیے - ایک ایسا مطالبہ جو نہ صرف غلط استعمال کی تصویر کشی کی پیش گوئی کرے گا بلکہ غیر متفقہ مباشرت کی تصویر کشی اور بالغوں کے مواد کو ایلون کے طور پر فروغ دینے والی عوامی خصوصیات کو فروغ دے گا۔

ڈو کی ایک اور وکیل سارہ لندن نے پریس ریلیز میں کہا، "ڈو تقریباً دو دہائیوں سے یہ جانتے ہوئے کہ اس کے ساتھ پیش آنے والی بدترین چیز کی تصاویر آن لائن شکاریوں کے درمیان گردش کر رہی ہیں، اور وہ کسی بھی لمحے دوبارہ منظر عام پر آ سکتی ہیں۔" "xAI کو جان بوجھ کر اپنے ماڈلز کو ان خوفناک زیادتی کی تصاویر پر تربیت دینے کے لیے ذمہ دار ٹھہرایا جانا چاہیے۔"

ایک بڑھتا ہوا قانونی حساب

فائلنگ گروک کی تصویر اور ویڈیو کی صلاحیتوں پر وسیع تر قانونی جنگ میں تازہ ترین محاذ ہے۔ ٹینیسی میں ایک الگ کیس میں، جین ڈو 4 کے نام سے ایک خاتون نے ایک مقدمے میں شمولیت اختیار کی جس میں الزام لگایا گیا تھا کہ گروک کے ساتھ بچپن کی ایک تصویر اس کی ہزاروں واضح تصاویر بنانے کے لیے استعمال کی گئی تھی۔ ریگولیٹرز اور عدالتیں اس بات کا جائزہ لے رہی ہیں کہ مسائل کس حد تک پھیلے ہوئے ہیں، اور کچھ Grok صارفین کو ان کے تیار کردہ مواد پر گرفتار کیا گیا ہے۔

اسی وقت، xAI اپنے صارفین کے خلاف جرم میں چلا گیا ہے۔ پولیٹیکو نے اس ہفتے اطلاع دی ہے کہ کمپنی اپنے کچھ صارفین پر مقدمہ چلا رہی ہے یہاں تک کہ شکار کے مقدمات میں اضافہ ہوتا ہے، ایک حکمت عملی جو یہ جانچتی ہے کہ آیا پلیٹ فارمز یا لوگوں کو حوصلہ افزائی کرنے والے AI ماڈل کی پیداوار کے لیے قانونی ذمہ داری اٹھاتے ہیں۔

نئی شکایت اس لڑائی کے مرکز میں تربیتی ڈیٹا کے سوال کو رکھتی ہے۔ اگر عدالتیں اس دلیل کو قبول کرتی ہیں کہ ماڈل کا ٹریننگ سیٹ اس کے لیے ذمہ داری پیدا کر سکتا ہے جو یہ صارفین کو پیدا کرنے کے قابل بناتا ہے، تو اس کے اثرات xAI سے کہیں آگے پہنچ جائیں گے - ہر تخلیقی تصویر اور ویڈیو کمپنی کو چھونے سے جس کی شرائط صارف کے مواد کو دوبارہ تربیت میں شامل کرتی ہیں۔ ابھی کے لئے، الزامات صرف یہ ہیں: فائلنگ xAI میں الزامات کا ابھی تک عدالت میں جواب نہیں دیا گیا ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →