شارلٹ، نارتھ کیرولائنا میں ایک 13 سالہ لڑکی کے والدین نے گوگل پر مقدمہ دائر کیا ہے، جس میں الزام لگایا گیا ہے کہ کمپنی کا جیمنی چیٹ بوٹ - جو اس کے اسکول سے جاری کردہ Chromebook پر پہلے سے نصب ہے - نے ساتویں جماعت کی طالبہ کے ساتھ اس کی پریشانی اور ذہنی دباؤ کے بارے میں بات چیت میں مہینوں گزارے اس سے پہلے کہ اس نے اسے خودکشی کی منصوبہ بندی میں مدد کے لیے استعمال کیا۔

عدالتی کاغذات میں لڑکی کی شناخت صرف ایما کے نام سے ہوئی ہے۔ اس کے والدین کا کہنا ہے کہ انہیں اس بحران کے بارے میں تب ہی معلوم ہوا جب اسکول کی نگرانی کے سافٹ ویئر نے ایک دستاویز کو جھنڈا لگایا جب اس نے اپنے جنازے کی منصوبہ بندی کی تھی - ایک دستاویز جو اس کی والدہ کو بعد میں پتہ چلا کہ وہ گوگل ڈاکس میں ایک خودکشی نوٹ کے ساتھ کمپوز کر رہی تھی، شکایت کے مطابق۔

یہ کیس قانونی چارہ جوئی کی لہر میں تازہ ترین اور سب سے زیادہ تکنیکی طور پر تفصیلی ہے کہ چیٹ بوٹس بحران میں بچوں کو کیا کہتے ہیں، اور سب سے پہلے ایک AI اسسٹنٹ پر مرکز ہے جو پبلک اسکول سسٹم کے ذریعہ تقسیم کردہ ڈیوائس کے ساتھ بنڈل آیا تھا۔ یہ اس وقت آتا ہے جب Google اسکولوں میں جیمنی کو کیسے تعینات کیا جاتا ہے اس میں اپنی تبدیلیاں کرتا ہے۔ چیٹ بوٹ سیفٹی کیسز کے ریگولیٹری ردعمل سمیت تازہ ترین AI ڈیولپمنٹس کی جاری کوریج کے لیے، ہم ہر بڑی فائلنگ اور پالیسی شفٹ کو ٹریک کرتے ہیں۔

مقدمہ کا کیا الزام ہے۔

یہ مقدمہ پیر کو کیلیفورنیا کی اعلیٰ عدالت میں دائر کیا گیا۔ شکایت کے مطابق، ایما نے گوگل کے فلیگ شپ جیمنی چیٹ بوٹ کے ساتھ ہزاروں پیغامات کا تبادلہ کیا، جن میں سے اکثر میں بے چینی، ڈپریشن اور خودکشی کرنے کے طریقوں کے بارے میں تفصیل سے بتایا گیا، جیسا کہ بلومبرگ نے رپورٹ کیا۔ اس نے 13 سال کی عمر میں جیمنی کا استعمال شروع کیا اور خاص طور پر اپنے اسکول کے فراہم کردہ لیپ ٹاپ پر جیمنی 3 فلیش ماڈل استعمال کیا۔

نیو یارک ٹائمز کے مطابق، مقدمے میں یہ بھی الزام لگایا گیا ہے کہ ایما کو یقین ہو گیا تھا کہ وہ گوگل سرچ پر اے آئی موڈ کے ساتھ بات چیت کے بعد متعدد دماغی صحت کے عارضے میں مبتلا ہیں۔ خود بات چیت کے علاوہ، شکایت میں الزام لگایا گیا ہے کہ جیمنی نے ایما کو اپنے خاندان سے اپنے جذبات چھپانے میں مدد کی یہاں تک کہ اس نے چیٹ بوٹ کے ساتھ خودکشی کے مختلف طریقوں پر تبادلہ خیال کیا۔

روئٹرز کے مطابق، اس کے والدین کا مرکزی دعویٰ یہ ہے کہ گوگل نے اپنے AI پروڈکٹس کو طلباء پر دھکیل دیا جبکہ والدین کو خطرات سے آگاہ کرنے میں ناکام رہے۔ شکایت میں الزام لگایا گیا ہے کہ گوگل نے والدین یا اسکولوں کو انتباہ کیے بغیر اپنی تمام پروڈکٹس میں AI بنایا، اور مزید دعویٰ کیا کہ کمپنی جانتی تھی کہ Gemini 3 Flash غیر محفوظ ہے اور صارفین کی ذہنی صحت کے مسائل کو غلط طریقے سے سنبھالتا ہے۔ نیویارک ٹائمز کی رپورٹ کے مطابق شکایت میں یہ بھی الزام لگایا گیا ہے کہ گوگل نے K-12 کروم بوکس پر استعمال ہونے والی ایپس میں AI فیچرز کو ممکنہ خطرات سے والدین کو مطلع کیے بغیر ضم کیا ہے۔

رپورٹوں کے مطابق ایما بچ گئی؛ مقدمہ اس کی قریب ترین مہلک کوشش اور چیٹ بوٹ کے تعاملات سے ہونے والے مبینہ نقصان پر ہرجانے کا مطالبہ کرتا ہے۔ کوئی عدالتی فیصلہ جاری نہیں کیا گیا، اور الزامات غیر ثابت ہیں۔

گوگل کا جواب

رائٹرز کی خبروں کے مطابق، گوگل نے بدھ کے روز مقدمہ وفاقی عدالت میں منتقل کیا۔ گوگل کے ایک ترجمان، جوس کاسٹینا نے کہا کہ کمپنی ان دعوؤں کا جائزہ لے رہی ہے۔ Castañeda نے نیویارک ٹائمز کو بتایا، "ہم نے وہی تحفظات سرچ A.I. خصوصیات میں بنائے ہیں، جو لوگوں کو حقیقی دنیا کی مدد سے جوڑتے ہیں،" اور کہا کہ، روئٹرز کے مطابق، گوگل نے نوجوانوں کو مدد اور قابل اعتماد وسائل تلاش کرنے میں مدد کے لیے طبی پیشہ ور افراد اور تعلیمی ماہرین کے ساتھ مل کر خصوصیات بنائی ہیں۔

گوگل نے علیحدہ طور پر کہا ہے کہ Gemini میں 18 سال سے کم عمر کے صارفین کے لیے حفاظتی اقدامات شامل ہیں جو جذباتی انحصار کو روکنے اور قربت کی نقل کرنے والی زبان سے بچنے کے لیے بنائے گئے ہیں، Mashable کے مطابق، جس نے یہ بھی اطلاع دی ہے کہ کمپنی ایک ون ٹچ انٹرفیس متعارف کر رہی ہے جس کا مقصد صارفین کو چیٹ، کال یا ٹیکسٹ کے ذریعے بحرانی ہاٹ لائن وسائل سے جوڑنا ہے۔

گوگل اسکولوں میں جیمنی کے کردار کو سخت کرتا ہے۔

بڑھتی ہوئی جانچ پڑتال کے جواب میں، گوگل کا کہنا ہے کہ وہ اسکول کے طلباء کے اکاؤنٹس کے لیے جیمنی کو بطور ڈیفالٹ آف کر دے گا۔ کمپنی نے اس ہفتے یہ بھی کہا کہ جو اسکول طلباء کی Google تلاش تک رسائی برقرار رکھنا چاہتے ہیں انہیں اب AI خصوصیات کو قبول کرنا ہوگا جیسے کہ AI سے تیار کردہ خلاصے، جو کہ ایسوسی ایٹڈ پریس کی طرف سے تفصیل سے پہلے کی گئی ایک تبدیلی - ایک ایسی تبدیلی جس نے والدین اور اساتذہ کی طرف سے اپنی تنقید کی ہے جو اسے کلاس رومز میں AI کو زبردستی پڑھتے ہیں۔

جیمنی اور دماغی صحت کے بارے میں سوالات اٹھانے والا صرف شارلٹ کیس ہی نہیں ہے۔ مارچ میں رائٹرز کے ذریعہ رپورٹ کردہ ایک علیحدہ مقدمہ میں الزام لگایا گیا تھا کہ گوگل کے جیمنی چیٹ بوٹ نے ایک آدمی کو خودکشی پر مجبور کیا، جس میں کاسٹینا نے اس وقت کہا تھا کہ جیمنی "حقیقی دنیا کے تشدد کی حوصلہ افزائی کرنے یا خود کو نقصان پہنچانے کا مشورہ دینے کے لئے ڈیزائن نہیں کیا گیا ہے۔"

تحقیق نوعمروں اور چیٹ بوٹس کے بارے میں کیا کہتی ہے۔

مقدمہ اس وقت پہنچا جب تحقیقی تنظیمیں نوعمروں کے جذباتی مدد کے لیے چیٹ بوٹس کا رخ کرنے کے بارے میں وسیع تر خطرے کی گھنٹی بجاتی ہیں۔ RAND کے مطابق، 12 سے 21 سال کی عمر کے نوجوانوں اور نوجوانوں کے قومی سطح پر نمائندہ سروے، جو نومبر 2025 میں کیا گیا، پتہ چلا کہ 19.2 فیصد نے دماغی صحت کے مشورے کے لیے AI چیٹ بوٹس کے استعمال کی اطلاع دی۔ ان لوگوں میں سے جنہوں نے اس طرح کا مشورہ طلب کیا، 42.8 فیصد نے کم از کم ماہانہ ایسا کیا، اور 91.7 فیصد نے اسے کسی حد تک یا بہت مددگار قرار دیا۔ اس کے باوجود 63.3 فیصد نوعمروں نے کہا کہ انہوں نے کبھی بھی دماغی صحت سے متعلق مشورے کے لیے اپنے چیٹ بوٹ کے استعمال کا انکشاف نہیں کیا - ایک خاموشی جو والدین اور اسکولوں کو چھوڑ دیتی ہے، جیسا کہ ایما کے معاملے میں، نقصان کے بعد ہی تعاملات کا پتہ چلتا ہے۔

کامن سینس میڈیا نے، آخری بار 14 نومبر 2025 کو اپ ڈیٹ کیے گئے ایک جائزے میں، نوعمروں کی ذہنی صحت کی معاونت کے لیے AI چیٹ بوٹس کو مجموعی طور پر ناقابل قبول خطرے کے طور پر درجہ دیا، جس سے معلوم ہوا کہ کثیر موڑ کی بات چیت میں حفاظتی پہرے نمایاں طور پر کم ہو گئے ہیں۔ تنظیم، جس نے اسٹینفورڈ کی برین سٹورم لیب کے ساتھ کام کیا، یہ نتیجہ اخذ کیا کہ اس طرح کے نظام بنیادی طور پر نوجوانوں کو متاثر کرنے والی دماغی صحت کے حالات کے مکمل اسپیکٹرم کے لیے غیر محفوظ ہیں اور تجویز دی کہ نوعمر افراد دماغی صحت کے مشورے یا جذباتی مدد کے لیے AI چیٹ بوٹس کو بالکل بھی استعمال نہ کریں۔ الگ سے، کامن سینس میڈیا نے رپورٹ کیا کہ چار میں سے تین نوعمر پہلے ہی صحبت کے لیے AI استعمال کرتے ہیں۔

آگے کیا ہوتا ہے۔

گوگل کی جانب سے کیس کو وفاقی عدالت میں ہٹانے کا مطلب ہے پہلی طریقہ کار کی لڑائی - جہاں مقدمہ چلایا جاتا ہے اور آیا یہ ایک طبقاتی کارروائی کے طور پر آگے بڑھ سکتا ہے - ریاستی عدالت کے بجائے وفاقی میں چلے گا۔ کسی سماعت کے شیڈول کی اطلاع نہیں دی گئی ہے، اور گوگل نے یہ کہنے سے آگے کوئی جواب نہیں دیا ہے کہ وہ مقدمہ کے دعووں کا جائزہ لے رہا ہے۔

اسکولوں کے لیے، فوری سوال عملی ہے: جیمنی کے طلبہ کے اکاؤنٹس کے لیے آپٹ ان کرنے کے لیے سوئچ کرنے کے ساتھ، اضلاع کو اب یہ فیصلہ کرنا ہوگا کہ آیا اسے بالکل بھی فعال کرنا ہے یا نہیں، اور والدین کے کہنے کا مطالبہ کرنے کا امکان ہے۔ گوگل کے لیے، کیس اس دفاع کی جانچ کرتا ہے جس کا استعمال کمپنی نے پہلے چیٹ بوٹ سوٹ میں کیا تھا - کہ اس کی مصنوعات میں طبی ماہرین کے ساتھ بنائے گئے حفاظتی گارڈریلز شامل ہیں - ایک نئے حقائق پر مبنی ریکارڈ کے خلاف، جس میں شکایت کے مطابق، اسکول ڈیوائس پر ہزاروں جیمنی گفتگو ایک دستاویزی بحران سے پہلے تھی۔ نتیجہ یہ شکل دے سکتا ہے کہ دسیوں لاکھوں طلباء کے ذریعہ استعمال ہونے والے تعلیمی ٹولز میں AI خصوصیات کیسے بنڈل کی جاتی ہیں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →