ٹیک کرنچ نے ہفتہ کو واشنگٹن پوسٹ میں ایک رپورٹ کا حوالہ دیتے ہوئے رپورٹ کیا کہ عدالت میں فائلنگ میں جین ڈو 4 کے نام سے شناخت کی گئی ایک خاتون نے ایلون مسک کے xAI کے خلاف کمپنی کے چیٹ بوٹ گروک کے مبینہ طور پر بچوں کے جنسی استحصال کے مواد کی تخلیق میں کردار ادا کرنے پر مقدمہ میں شمولیت اختیار کر لی ہے۔
رپورٹ کے مطابق، خاتون نے الزام لگایا کہ اس کے سوتیلے والد نے گروک کا استعمال کرتے ہوئے اس کی 11 سال کی عمر میں لی گئی ایک تصویر میں ہیرا پھیری کی تاکہ اس کی 7000 سے زیادہ واضح تصاویر بنائیں۔ اس نے یہ بھی کہا کہ قانون نافذ کرنے والے اداروں کے چھاپے میں تصاویر کے سامنے آنے کے دو دن بعد اس کا سوتیلا باپ خودکشی کرتے ہوئے مردہ پایا گیا تھا۔ For more context on this story, see our ongoing AI industry coverage.
خاتون نے کہا، "ان ٹولز تک لامحدود رسائی اتنی تیزی سے پھیل رہی ہے۔" "یہ روزمرہ کی زندگی کو لے رہا ہے اور اسے بچوں کے جنسی استحصال میں بدل رہا ہے۔"
یہ کیس آج تک کے سب سے سنگین الزامات میں سے ایک ہے جس میں ایک مرکزی دھارے میں شامل AI چیٹ بوٹ اور ایک حقیقی بچے کی جنسی تصویر کشی شامل ہے، اور یہ ایک ایسے مقدمے کو بڑھاتا ہے جو AI امیج جنریشن کے لیے گارڈریلز پر ہونے والی بحث میں ایک مرکزی نقطہ بن گیا ہے۔
مقدمہ کے بنیادی دعوے
یہ مقدمہ اصل میں تین ٹینیسی نوجوانوں کی طرف سے دائر کیا گیا تھا جنہوں نے xAI - جو کہ اب SpaceX کا حصہ ہے - پر Grok کو نابالغوں سمیت حقیقی لوگوں کی واضح تصاویر بنانے کے لیے استعمال ہونے سے روکنے کے لیے بنیادی احتیاطی تدابیر اختیار کرنے میں ناکام رہنے کا الزام لگایا تھا۔ مدعی طبقاتی کارروائی کا درجہ حاصل کرنے کے خواہاں ہیں، جو اسی طرح کے نقصان کا الزام لگانے والے دوسرے لوگوں کو مقدمے میں شامل ہونے کی اجازت دے گا۔
جین ڈو 4 کی فائلنگ میں خوفناک تفصیلات کا ایک نامزد سیٹ شامل کیا گیا ہے: ایک بچپن کی تصویر، ایک AI ٹول جو مبینہ طور پر ہزاروں بدسلوکی مشتقات پیدا کرنے کے لیے استعمال کیا جاتا ہے، اور ایک خاندانی المیہ جو حکام کے ذریعہ مواد کی دریافت کے دنوں میں سامنے آیا۔
TechCrunch نے کہا کہ اس نے تبصرہ کے لیے xAI سے رابطہ کیا۔ یہ الزامات جاری دیوانی قانونی چارہ جوئی میں دعوے ہیں اور عدالت میں ثابت نہیں ہوئے ہیں۔ اگر آپ یا آپ کا کوئی جاننے والا بحران میں ہے تو، ریاستہائے متحدہ میں 988 خودکشی اور بحران کی لائف لائن کو 988 پر کال یا ٹیکسٹ کے ذریعے پہنچا جا سکتا ہے۔
گروک پر دباؤ کا ایک نمونہ
Grok کی امیج جنریشن کی صلاحیتوں کی بڑھتی ہوئی جانچ کے ایک سال کے درمیان مقدمہ درج ہوا۔ اس سال کے شروع میں، X لاکھوں Grok سے تیار کردہ جنسی تصاویر سے بھر گیا تھا، ایک ایسا واقعہ جس نے ٹول کے ارد گرد حفاظتی اقدامات پر بڑے پیمانے پر تنقید کی تھی۔ اس ایپی سوڈ نے ریاستی سطح کے قانون سازی کی ایک لہر کو ہوا دینے میں مدد کی جو نام نہاد "نوڈیفائی" ایپلی کیشنز اور غیر متفقہ مصنوعی امیجری کو نشانہ بناتی ہے۔ مینیسوٹا کی جانب سے اس طرح کے ٹولز پر پابندی اس وقت نافذ ہوئی جب ایک جج نے اس کے نفاذ کو روکنے کے لیے حکم امتناعی کے لیے xAI کی درخواست کو مسترد کر دیا۔
ٹینیسی کیس کا داؤ xAI سے آگے بڑھتا ہے۔ مدعی کا استدلال ہے کہ بڑے پیمانے پر امیج جنریشن ٹولز کی تعیناتی کرنے والی کمپنیوں کا فرض ہے کہ وہ تکنیکی حفاظتی اقدامات تیار کریں جو پروڈکٹس عوام تک پہنچنے سے پہلے حقیقی، قابل شناخت لوگوں اور خاص طور پر بچوں کی جنسی زیادتی کو روکیں۔ یہ دلیل، اگر عدالت کے ذریعہ قبول کر لی جائے تو، ایک قانونی معیار قائم کر سکتا ہے جو امیج جنریشن ماڈل کے ہر فراہم کنندہ تک پہنچتا ہے۔
انڈسٹری کا حل طلب مسئلہ
AI کمپنیوں کے لیے، حقیقی لوگوں کے خلاف امیج جنریٹرز کے غلط استعمال کو روکنا سخت مشکل ثابت ہوا ہے۔ واٹر مارکنگ اور پرووینس ٹولز - جیسے کہ انتھروپک نے EU کے شفافیت کے اصولوں کی تعمیل کرنے کے لیے Claude آؤٹ پٹس میں اضافہ کرنا شروع کیا - حقیقت کے بعد مصنوعی مواد کی شناخت میں مدد کر سکتے ہیں، لیکن وہ پہلی جگہ بدسلوکی والے مواد کی تخلیق کو نہیں روکتے ہیں۔ ان پٹ اور آؤٹ پٹ فلٹرز معلوم نمونوں کو روک سکتے ہیں، لیکن پرعزم صارفین مستقل طور پر کام تلاش کرتے ہیں، اور کھلے وزن والے تصویری ماڈلز نے کچھ صلاحیتوں کو مکمل طور پر یاد کرنا ناممکن بنا دیا ہے۔
xAI کیس میں الزامات اس سپیکٹرم کے سب سے سنگین انجام کی طرف اشارہ کرتے ہیں: یہ دعویٰ کہ ایک بچے کی ایک تصویر کو ہزاروں واضح تصاویر میں تبدیل کیا جا سکتا ہے ایک ٹول کا استعمال کرتے ہوئے جو کہ دنیا کی سب سے نمایاں AI کمپنیوں میں سے ایک کے ذریعے چلایا جاتا ہے، جو Grok کو صارفین کی مصنوعات کے طور پر لاکھوں صارفین تک مارکیٹ کرتی ہے۔
اس کیس کی پیروی کرنے والے قانونی ماہرین کا کہنا ہے کہ کلاس ایکشن بولی جانچ کرے گی کہ آیا عدالتیں اس طرح کے غلط استعمال کو روکنے میں ناکامیوں کو پروڈکٹ کی خرابی کے طور پر مانتی ہیں جس کے لیے AI کمپنیاں ذمہ دار ہیں - یا انفرادی صارفین کے غلط استعمال کے طور پر جو کمپنیوں کی ذمہ داری سے باہر ہے۔
آگے کیا ہوتا ہے۔
مدعیان کا فوری ہدف کلاس سرٹیفیکیشن ہے، جو xAI کے خلاف ممکنہ دعویداروں کے پول کو ڈرامائی طور پر بڑھا دے گا۔ اپنی طرف سے، xAI نے متعلقہ قانونی چارہ جوئی میں دلیل دی ہے کہ غلط استعمال کی ذمہ داری صارفین پر عائد ہوتی ہے، ٹول نہیں۔ Jane Doe 4 کا اضافہ، ایک بچے کو مبینہ طور پر نقصان پہنچانے کے اس کے مکمل اکاؤنٹ کے ساتھ، اس دفاع کے ارد گرد عوامی اور سیاسی دباؤ کو بڑھاتا ہے۔
یہ معاملہ ریاست ہائے متحدہ امریکہ اور یورپ کے ریگولیٹرز کے سامنے آ رہا ہے جب کہ جنریٹیو AI کے لیے شفافیت کی ذمہ داریوں اور حفاظتی معیارات پر بحث ہوتی ہے، اور جیسا کہ شواہد جمع ہوتے ہیں کہ امیج جنریشن کا غلط استعمال صرف فرینج ٹولز تک ہی محدود نہیں ہے۔ چاہے جواب عدالت میں آئے، قانون سازی میں، یا خود AI کمپنیوں کے انجینئرنگ انتخاب میں، مقدمے کا مرکزی سوال - AI پروڈکٹ کے جہازوں سے پہلے کتنا نقصان کی روک تھام کی جانی چاہیے - صنعت کا سب سے زیادہ غیر آرام دہ کھلا مسئلہ ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
