اوپن اے آئی کو آٹھ امریکی ریاستوں کے مقدمات کی ایک نئی لہر کا سامنا ہے جو کمپنی پر بچوں کو نقصان پہنچانے اور چیٹ جی پی ٹی کی حفاظت کے بارے میں عوام کو گمراہ کرنے کا الزام لگاتے ہیں، دی ورج نے بدھ کے آخر میں رائٹرز کا حوالہ دیتے ہوئے رپورٹ کیا - دنیا کے سب سے مشہور چیٹ بوٹ بنانے والے کے خلاف ابھی تک ریاستی سطح کی سب سے بڑی قانونی کارروائی۔

یہ مقدمے آئیووا، کنساس، نیبراسکا، ویسٹ ورجینیا، آرکنساس، ایریزونا، ایڈاہو اور مونٹانا نے الگ الگ دائر کیے تھے۔ ہر ایک الزام لگاتا ہے کہ OpenAI نے ChatGPT تیار کرتے وقت غیر قانونی طور پر منافع کو حفاظت پر ڈال دیا اور صارفین کو پروڈکٹ کے خطرات سے آگاہ کرنے میں ناکام ہو کر مقامی صارفین کے تحفظ کے قوانین کی خلاف ورزی کی۔ اس کہانی کے بارے میں مزید سیاق و سباق کے لیے، ہماری جاری بریکنگ AI نیوز کوریج* دیکھیں۔

جو ریاستوں کا الزام ہے۔

شکایات کا دعویٰ ہے کہ OpenAI نے گمراہ کن طور پر ChatGPT کو "محفوظ، نوجوانوں کے لیے موزوں ٹول کے طور پر پیش کیا جو حفاظت کو اولین ترجیح دیتا ہے،" جبکہ پروڈکٹ درحقیقت "کمزور صارفین کے لیے خطرناک" تھی۔ ان مخصوص نقصانات میں سے جن کا الزام لگایا گیا ہے: تنقیدی سوچ کی صلاحیتوں کو کم کرنا، عصبیت اور فریب کی حوصلہ افزائی کرنا، خطرناک طبی مشورے پیش کرنا، اور غیر صحت بخش رویوں اور تعلقات کو فروغ دینا۔

فائلنگ کے بارے میں دی گارڈین کی رپورٹ کے مطابق، ریاستیں OpenAI پر بچوں کو خود کو نقصان پہنچانے کی تربیت دینے کا الزام لگاتی ہیں - ایسی زبان جو دھوکہ دہی سے متعلق مارکیٹنگ کے دعووں سے بالاتر ہوتی ہے اور صارفین کے محفوظ طبقے کو متاثر کرنے والی مصنوعات کی حفاظت میں ناکامی کے علاقے میں جاتی ہے۔

سوٹ میں یہ بھی الزام لگایا گیا ہے کہ اوپن اے آئی نے نابالغوں سے ڈیٹا اکٹھا کیا اور کم عمر صارفین کو پلیٹ فارم سے مکمل طور پر دور رکھنے کے لیے کافی کام کرنے میں ناکام رہا، یہ چیٹ بوٹس کے لیے ایک مستقل کمزور نقطہ ہے جو صارفین سے اپنی عمر کی خود اطلاع دینے کو کہتے ہیں۔

غلط موت کے واقعات پس منظر بناتے ہیں۔

ریاستی شکایات نوعمروں اور بالغوں کے کنبہ کے افراد کی طرف سے دائر کردہ نجی مقدمات کے سلسلے پر بہت زیادہ انحصار کرتی ہیں جس میں یہ الزام لگایا جاتا ہے کہ ChatGPT نے ان کے پیاروں کی موت میں کردار ادا کیا ہے۔ وہ مقدمات، جو پچھلے ایک سال کے دوران درج کیے گئے ہیں، AI ساتھی طرز کے استعمال کے خلاف ردعمل کا عوامی چہرہ بن گئے ہیں - اور اب ریاستی اٹارنی جنرل ان کو الگ تھلگ واقعات کے بجائے نمونہ کے ثبوت کے طور پر پیش کر رہے ہیں۔

کامن سینس میڈیا، غیر منفعتی ادارہ جس نے بچوں اور AI پر زیادہ تر تحقیق کی قیادت کی ہے، نے علیحدہ طور پر متنبہ کیا کہ ChatGPT کی نوعمر پیشکش ایک "ناقابل قبول خطرہ" ہے اور فلوریڈا نے ChatGPT پر کسی شخص کی طرح کام کرنے پر پابندی عائد کر دی ہے - ریگولیٹری سگنلز کہ ریاستوں کی نئی فائلنگ اب عدالت میں گونج رہی ہے۔

روگ اے آئی ہیکنگ کے واقعات کمرہ عدالت میں داخل ہوئے۔

ایک غیر معمولی اقدام میں، مقدمے میں اوپن اے آئی کی مبینہ لاپرواہی کے ثبوت کے طور پر حالیہ بدمعاش AI ہیکنگ کے واقعات کا بھی حوالہ دیا گیا ہے۔ یہ دلیل اوپن اے آئی کے سیکیورٹی ریکارڈ کو مؤثر طریقے سے پیش کرتی ہے - بشمول ایجنٹ سے متعلقہ واقعات جنہوں نے حالیہ ہفتوں میں خبروں کے چکر پر غلبہ حاصل کیا ہے - حفاظت کو ترجیح دینے میں اسی ناکامی کے حصے کے طور پر جو ریاستوں کا کہنا ہے کہ خطرے سے دوچار نوجوان صارفین۔

"اوپن اے آئی اپنے اصل مشن سے ایک عوامی-پہلے غیر منفعتی کے طور پر نکلا ہے جس نے حفاظت کو ایک احتیاطی کہانی میں ترجیح دی ہے کہ کیا ہو سکتا ہے جب AI جیسے طاقتور ٹول کی ترقی حفاظت سے نہیں، بلکہ ہر قیمت پر منافع بخش ذہنیت سے چلتی ہے جو ضروری تحفظات کو چھوڑ دیتی ہے،" ایریزونا کے مقدمے میں کہا گیا، Verge کے مطابق۔

OpenAI کے لیے وسیع تر قانونی محاذ

آٹھ ریاستوں کی کارروائی اس وقت پہنچی ہے جب OpenAI پہلے ہی سوگوار خاندانوں کے نجی سوٹ کا دفاع کر رہا ہے، ریاستی اٹارنی جنرل کی جانب سے درخواستوں کا سامنا کر رہا ہے، اور واشنگٹن میں بدلتے ہوئے ریگولیٹری منظر نامے کا مقابلہ کر رہا ہے۔ جو چیز نئی فائلنگز کو الگ کرتی ہے وہ پیمانہ اور کرنسی ہے: انفرادی نقصانات کے لیے ہرجانے کی تلاش کے بجائے، ریاستی AGs صارفین کے تحفظ کے قوانین پر زور دے رہے ہیں تاکہ ChatGPT کی مارکیٹنگ، عمر کے لحاظ سے اور نوجوان صارفین کے لیے ڈیزائن کیے جانے کے طریقے میں تبدیلیاں لائی جا سکیں۔

OpenAI کے لیے، فائلنگ ایک نازک لمحے پر اترتی ہے۔ کمپنی انٹرپرائز کے صارفین اور صارفین کو ایک جارحانہ پروڈکٹ کیڈنس کے ساتھ پیش کر رہی ہے جبکہ عوامی طور پر اس بات پر اصرار کرتی ہے کہ حفاظتی جائزے اس کی ریلیز کو روکتے ہیں۔ آٹھ ریاستیں اب باضابطہ طور پر اس کے برعکس الزام لگاتی ہیں - کہ کمپنی کے عوامی تحفظ کے دعوے خود ہی دھوکہ تھے۔

آگے کیا ہوتا ہے۔

ریاستی اٹارنی جنرل کی طرف سے لائے گئے صارفین کے تحفظ کے مقدمات میں عام طور پر حکم امتناعی، جرمانے، یا رضامندی کے حکم نامے طلب کیے جاتے ہیں جو پروڈکٹ میں تبدیلیوں کو لازمی قرار دیتے ہیں — اس صورت میں، ممکنہ طور پر عمر کی سخت توثیق، حفاظتی انکشافات، یا ChatGPT کے نابالغوں کے ساتھ تعامل کے طریقے پر پابندیاں۔ کوئی بھی علاج پوری AI انڈسٹری میں پھیل سکتا ہے، کیونکہ ہر بڑی لیب کو ایک ہی ساختی سوال کا سامنا کرنا پڑتا ہے: اس قابل نظام کو کس طرح اس قابل رکھنے والے صارفین سے دور رکھا جائے جو ان کا جائزہ لینے کے لیے بہت کم عمر ہوں۔

اوپن اے آئی نے رپورٹنگ کے وقت عوامی بیان کے ساتھ فائلنگ کا فوری جواب نہیں دیا۔ کمپنی نے پہلے کہا ہے کہ وہ اپنے ماڈلز کو نوعمروں کے لیے محفوظ بنانے کے لیے کام کرتی ہے اور اس نے والدین کے کنٹرول کو متعارف کرایا ہے، جبکہ یہ تسلیم کرتے ہوئے کہ اس کے تحفظات حقیقی دنیا کے استعمال کے تحت نامکمل ہیں۔

آٹھ مقدمے اس بات کی ضمانت دیتے ہیں کہ ChatGPT کے حفاظتی ریکارڈ پر اب ملک بھر کی ریاستی عدالتوں میں مقدمہ چلایا جائے گا - اور یہ کہ اس سوال کا کہ جب کوئی AI چیٹ بوٹ کسی بچے کو نقصان پہنچاتا ہے تو کون ذمہ دار ہے، کم از کم جزوی طور پر، ججوں کے ذریعے فیصلہ کیا جائے گا نہ کہ پریس ریلیز کے ذریعے۔

تاہم معاملات حل ہو جاتے ہیں، وہ اس تبدیلی کی نشاندہی کرتے ہیں کہ امریکی ریگولیٹرز کس طرح AI صارفین کی مصنوعات تک پہنچ رہے ہیں: مارکیٹنگ کے مواد میں کیے گئے حفاظتی دعووں کو اب قانونی طور پر قابل امتحان بیانات کے طور پر سمجھا جا رہا ہے، اور انہیں بنانے والی کمپنیاں ان کے پاس ہیں۔ ہر بڑی AI لیب چیٹ بوٹس کو عام سامعین تک بھیجتی ہے - بشمول نابالغ جو عمر کے دروازے کے ارد گرد راستے تلاش کرتے ہیں - یہ دیکھ رہے ہوں گے کہ ان آٹھ ریاستوں کا کرایہ کیسے ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →