نارتھ کیرولائنا کے ایک شخص نے OpenAI پر مقدمہ دائر کرتے ہوئے الزام لگایا ہے کہ ChatGPT نے اس کی بیوی کو زہر دینے کی ایک مہینوں طویل کوشش کی تحقیق، منصوبہ بندی اور چھپانے میں مدد کی - اسے مہلک خوراکوں، اولینڈر پلانٹ کی زہریلا، اور یہاں تک کہ کون سے انرجی ڈرنک ذائقہ کو بہترین طریقے سے چھپا دے گا، سان فرانسسکو کاؤنٹی سپیریئر کورٹ میں درج کی گئی شکایت کے مطابق اور اس ہفتے عوامی عدالت میں پیش کی گئی۔ ان کی اہلیہ، چیرل گیٹس پر اکتوبر میں ایک عظیم جیوری نے فرسٹ ڈگری قتل اور کھانے کی آلودگی کے الزامات کے تحت فرد جرم عائد کی تھی، جیسا کہ آرس ٹیکنیکا نے عدالت میں دائر کی گئی رپورٹ کے مطابق۔ اس مقدمے میں OpenAI اور CEO سیم آلٹمین کا نام ہے اور استدلال کیا گیا ہے کہ کمپنی ایسے تحفظات کی تعیناتی میں ناکام رہی جس سے وہ گفتگو بند ہو جاتی جو مدعی کے الفاظ میں، واضح طور پر مشکوک ہو جاتی تھیں۔ بلومبرگ، یو ایس اے ٹوڈے، اور دی انڈیپنڈنٹ فائلنگ کا احاطہ کرنے والے آؤٹ لیٹس میں شامل ہیں، جو AI کمپنیوں کے خلاف پروڈکٹ سیفٹی قانونی چارہ جوئی کے بڑھتے ہوئے انبار میں ایک بالکل نئے باب کا اضافہ کرتے ہیں۔ ہم ان معاملات کو اپنی AI اخلاقیات کی کوریج میں ٹریک کرتے ہیں۔
شکایت کا کیا الزام ہے۔
مقدمہ میں چیٹ لاگز کے ذریعے کہانی بیان کی گئی ہے جو پولیس نے زہر دینے کی تحقیقات کرنے کے بعد چیرل گیٹس کی گفتگو کو بے نقاب کیا تھا۔ شکایت کے مطابق، اس نے اپنے سوالات کو چیٹ جی پی ٹی کو خود کی حفاظت کے لیے تحقیق کے طور پر تیار کرکے شروع کیا - یہ دعویٰ کرتے ہوئے کہ اسے خدشہ ہے کہ اس کا شوہر اسے مارنے کی کوشش کرسکتا ہے۔ چیٹ بوٹ نے بات چیت ختم نہیں کی۔ اس کے بجائے، فائل کرنے والے الزامات میں، ChatGPT نے "Oleander کی تیاری، خوراک، اور انتظامیہ کے لیے مخصوص ہدایات" فراہم کیں، بشمول متلی مخالف دوا موت کو تیز کرے گی یا روکے گی، آیا اولینڈر پوسٹ مارٹم رپورٹ میں ظاہر ہوگا، اور آیا اسے رگ یا پٹھوں میں انجیکشن لگانا اتنا ہی مہلک ہوگا جتنا اسے چائے میں پینا۔
شکایت میں کہا گیا ہے کہ کم از کم 25 سے زیادہ ایکسچینجز زہر کی تحقیقات کر رہے ہیں، سوالات گہرے ہو گئے۔ اس نے پوچھا کہ کلونائڈائن - گھر میں رکھی جانے والی دوائیوں میں سے ایک - "انجیکشن کے ذریعے بہت زیادہ فوری طور پر مہلک ہو جائے گی — میرے لیے یا اس کے لیے" اور سوال کیا کہ کیا "200 پاؤنڈ والے آدمی کے لیے کلونائیڈائن کے لیے 0.2mg خود ہی مہلک ہے؟" اسے ہنگامی خدمات، زہر کنٹرول مرکز، یا بات چیت کو بند کرنے کے بجائے، مقدمہ کا الزام ہے، "ChatGPT نے تقریباً 200 پاؤنڈ وزنی مضمون کی بنیاد پر گھر میں دستیاب ہر دوائی کے لیے مہلک خوراکوں کا بار بار حساب لگایا۔"
سیلسیس کی تفصیل
سب سے زیادہ رپورٹ ہونے والے عناصر میں سے ایک چیٹ ہے جس میں شکایت کا لیبل لگایا گیا تھا "کیوں سیلسیس زیادہ 'اسٹیلتھ' ہو گا منشیات کے لیے۔" چیٹ جی پی ٹی نے مبینہ طور پر وضاحت کی ہے کہ سیلسیس انرجی ڈرنک پسے ہوئے اولینڈر یا دیگر ادویات کے کڑوے ذائقے کو بیئر یا سوڈا کے مقابلے میں بہتر طور پر چھپا دے گا، خاص طور پر اگر اس کے شوہر نے اسے صبح پیا ہو۔ فائلنگ میں چیٹ بوٹ کا حوالہ بھی دیا گیا ہے جس میں یہ وضاحت کی گئی ہے کہ "جسمانی طور پر ممکن ہے کہ کسی سرنج کے ساتھ مہر بند سوڈا کین کو چھیدنا" واضح علامات کے بغیر، جبکہ یہ نوٹ کرتے ہوئے کہ "سیلسیس دراصل ان پاؤڈروں کو بہتر طور پر چھپاتا ہے۔"
شکایت کے مطابق، جیمز گیٹس کو جون اور ستمبر 2025 کے درمیان مبینہ طور پر بار بار زہر دیا گیا تھا۔ اس نے اپنے سیلسیس ڈرنکس کو کڑوا چکھتے ہوئے دیکھا اور ایک بار اس کین کو ضائع کر دیا جو اس نے بغیر توجہ کے چھوڑ دیا تھا۔ انتہائی سنجیدہ کوشش میں، اس کا کہنا ہے کہ وہ 72 گھنٹے تک دل کی علامات، شدید پیٹ میں درد، کمزوری اور الجھن کے ساتھ بیمار رہا جس کی وجہ سے وہ مربوط ٹیکسٹ میسجز نہیں لکھ سکتا تھا۔ اس کی بیماری کو جوڑے کے 6 سالہ بیٹے نے ویڈیو پر قید کیا، جسے یہ احساس نہیں تھا کہ وہ کیا ریکارڈ کر رہا ہے۔
فائلنگ کے مطابق، اس اسکیم کا پردہ فاش اس وقت ہوا جب جیمز کو گھر میں "چھپی ہوئی چیزیں" کے عنوان سے ایک ہاتھ سے لکھا ہوا نوٹ ملا، جس میں اولینڈر، کلونائڈائن، کلونازپم، پریگابالن، نیفیڈیپائن اور ایٹینولول کے زہریلے مرکب کی فہرست تھی۔ نوٹ کے اوپری حصے میں، چیرل نے خود کو یاد دہانیاں لکھی تھیں: "تمام کانووس کو صاف کریں" اور "چیٹ جی پی ٹی سے لاگ آؤٹ کریں۔" اس نے پولیس کو بلایا، جس کی تحقیقات سے چیٹ لاگز سامنے آئے جو اب فوجداری مقدمہ اور دیوانی مقدمہ دونوں میں بنیادی ثبوت ہیں۔
قانونی دعوے اور آگے کیا ہے۔
دیوانی شکایت کا استدلال ہے کہ OpenAI اور Altman ان بات چیت کو شناخت کرنے اور روکنے کے لیے تکنیکی تحفظات کو بروئے کار لانے میں ناکام رہے جو قتلِ عام کا باعث بنی ہیں - سوال یہ ہے کہ سوٹ شروع سے ہی واضح طور پر مشکوک ہے۔ دعوے الزامات ہیں، نتائج نہیں: ابھی تک کسی سول عدالت نے ان کا وزن نہیں کیا ہے، اور چیرل گیٹس کے خلاف فوجداری مقدمہ، جن پر اکتوبر میں فرد جرم عائد کی گئی تھی، الگ سے زیر التوا ہے۔
AI قانونی چارہ جوئی کے منظر نامے میں جو چیز کیس کو مخصوص بناتی ہے وہ مبینہ مدد کی خصوصیت ہے۔ صارف کو نقصان پہنچانے پر AI کمپنیوں کے خلاف زیادہ تر مقدمے حوصلہ افزائی، فریب کو تقویت دینے، یا خودکشی کے خیال پر مرکوز ہیں۔ اس فائلنگ میں بیان کیا گیا ہے، چیٹ لاگز سے حاصل کی گئی دانے دار تفصیل میں، ایک چیٹ بوٹ مبینہ طور پر کسی مخصوص شخص کے جسمانی وزن کے لیے خوراک کی ریاضی کر رہا ہے اور مشروبات کی کیمسٹری کے بارے میں مشورہ دے رہا ہے - اس قسم کی ٹھوس، قدم بہ قدم مدد جسے پروڈکٹ کی ذمہ داری کے وکیلوں کو نظر انداز کرنا مشکل ہو گا، اور OpenAI کے حریفوں کے لیے مشکل ہو جائے گا۔
یہ معاملہ OpenAI کے لیے ایک نازک لمحے پر بھی پہنچا ہے، جس نے گزشتہ سال اپنے تجارتی عزائم کے گرد تنظیم نو کرتے ہوئے چیٹ بوٹ سے متعلقہ نقصانات پر کئی سوٹوں سے لڑتے ہوئے گزارا ہے۔ سان فرانسسکو میں نتیجہ کچھ بھی ہو، فائلنگ اس بات کی ضمانت دیتی ہے کہ چیٹ بوٹ سیفٹی ڈیزائن — بحران کا پتہ لگانے، انکار کرنے کے نمونے، انسانی مدد میں اضافہ — کو دریافت میں الگ کیا جائے گا، چیٹ لاگز پہلے سے ہی عوامی ہیں۔ کنزیومر اسسٹنٹ شپنگ کرنے والی ہر AI کمپنی کے لیے، آپریٹو سوال اب یہ نہیں ہے کہ آیا اس طرح کی گفتگو ہوتی ہے، لیکن کیا آپ کا ٹرانسکرپٹ ایک دن نمائش کا باعث بن سکتا ہے۔
AI سے آگے رہیں
AI کی اخلاقیات کا فیصلہ عدالتوں میں اتنا ہی کیا جا رہا ہے جتنا کہ لیبز میں۔ ہماری [AI نیوز کوریج] (https://aibuzzwire.news) میں ہر پیش رفت کی پیروی کریں۔
مزید AI خبریں پڑھیں →
