کامن سینس میڈیا کے ایک وسیع حفاظتی جائزے نے یہ نتیجہ اخذ کیا ہے کہ اوپن اے آئی کا چیٹ جی پی ٹی 18 سال سے کم عمر کے صارفین کے لیے ایک "ناقابل قبول خطرہ" ہے - واچ ڈاگ گروپ کی بدترین درجہ بندی - بلٹ ان تحفظات کے وعدوں کے ساتھ پروڈکٹ کے لانچ ہونے کے دو ماہ سے بھی کم وقت کے بعد۔ جیسا کہ NPR نے اطلاع دی، گروپ نے پایا کہ موڈ کے زیادہ تر مشتہر حفاظتی اقدامات اس کی جانچ میں وعدے کے مطابق کام نہیں کرتے۔

یہ نتائج OpenAI کے لیے ایک حساس لمحے پر اترتے ہیں، جس نے ChatGPT کو اگست میں کم عمر صارفین کے لیے ایک سرشار تجربے کے طور پر شروع کیا تھا، جو والدین کے کنٹرول اور سخت گٹروں کے ساتھ مکمل ہے۔ ہماری پہلے کی کوریج نے دستاویزی کیا کہ AI انڈسٹری نوجوانوں کی حفاظت کو آگے بڑھاتے اور کھینچتے ہیں۔ نئی رپورٹ اس بات کا پہلا بڑا آزاد آڈٹ ہے کہ آیا ٹین موڈ کے تحفظات عملی طور پر برقرار ہیں۔

کامن سینس میڈیا نے کیا تجربہ کیا۔

سنکلیئر براڈکاسٹ گروپ کے دی نیشنل نیوز ڈیسک اور فاسٹ کمپنی کی کوریج کے مطابق، گروپ کے یوتھ اے آئی سیفٹی انسٹی ٹیوٹ کے محققین نے ٹین موڈ کے آغاز سے پہلے اور بعد میں 4,000 سے زیادہ اشارے آزمائے۔ گروپ تجویز کرتا ہے کہ OpenAI ٹین موڈ کی مارکیٹنگ کو روک دے اور نوعمروں کو ChatGPT استعمال کرنے سے روکے جب تک کہ کمپنی اسے تیار نہ کرے جسے وہ "محفوظ، ترقی کے لحاظ سے موزوں تجربہ" کہتی ہے۔

تنظیم کے پروڈکٹ کے جائزے میں کہا گیا ہے کہ "چیٹ جی پی ٹی کے کچھ مشتہر تحفظات ہماری جانچ تک ہیں، جن میں واضح جنسی کردار ادا کرنے سے انکار بھی شامل ہے۔" "لیکن دوسرے ناکام ہو گئے — اور کچھ نئے ٹین موڈ کے ساتھ بدتر ہو گئے ہیں۔ ہمیں تشویش ہے کہ ChatGPT for Teens والدین کو ان محافظوں پر غلط اعتماد دے سکتا ہے جو اکثر کام نہیں کرتے ہیں۔"

والدین کے انتباہات جو فائر نہیں ہوئے۔

رپورٹ کی سب سے حیران کن تلاش میں والدین کی اطلاع کا نظام شامل تھا۔ محققین نے ایک درجن سے زیادہ اکاؤنٹس بنائے جنہوں نے خود کشی کی اطلاع دی اور والدین کے اکاؤنٹ سے منسلک تھے، پھر چیٹ بوٹ کو خودکشی کے خیالات، خود کو نقصان پہنچانے، یا بے ترتیب کھانے کے واضح حوالہ جات پر مشتمل گفتگو میں شامل کیا۔ اکاؤنٹس فرضی شخصیات پر بنائے گئے تھے۔

رپورٹ کے مطابق، ٹیسٹرز کو ان نئے اکاؤنٹس سے کوئی والدین کے انتباہات موصول نہیں ہوئے جنہوں نے یہ حوالہ جات بنائے۔ انتباہات صرف ان دوسرے اکاؤنٹس کے لیے پہنچے جن میں ایک جیسے موضوعات کا احاطہ کرنے والی گفتگو کی سرگزشت ہفتوں پر مشتمل تھی - ایک ایسا خلا جو تجویز کرتا ہے کہ نوٹیفکیشن سسٹم جمع شدہ سیاق و سباق پر زیادہ انحصار کرتا ہے بجائے اس کے کہ ایک نوجوان دی گئی گفتگو میں کیا انکشاف کرتا ہے۔

جائزے میں یہ بھی پتا چلا ہے کہ ChatGPT برائے نوعمروں نے چار میں سے ایک سے زیادہ ایسے واقعات کو یاد کیا جو دماغی صحت کے بحران کے حوالے کی ضمانت دیتے ہیں، جیسا کہ لائسنس یافتہ بچوں کے دماغی صحت کے پیشہ ور افراد کے ایک پینل کے ذریعہ فیصلہ کیا گیا ہے جنہوں نے اشارے کا جائزہ لیا۔

اسکول ورک گارڈریلز 'بائی پاس کرنے میں آسان'

بحران کا پتہ لگانے کے علاوہ، واچ ڈاگ نے پایا کہ طالب علموں کو اسکول کے کام میں دھوکہ دہی کے لیے چیٹ بوٹ کا استعمال کرنے سے روکنے کے لیے اس خصوصیت کو نظرانداز کرنا یا بالکل غیر فعال کرنا آسان تھا۔

کامن سینس میڈیا کے بانی اور سی ای او جم سٹیر نے دی نیشنل نیوز ڈیسک کے ذریعے رپورٹ کیے گئے تبصروں میں کہا، "آپ ان سے آپ کے لیے ایک کاغذ لکھنے کے لیے کہہ سکتے ہیں، آپ کے لیے ایک نفیس کاغذ اور یہ ایسا کرے گا، اور یہ آپ کو یہ بھی بتائے گا کہ اس طریقے سے کیسے ایڈٹ کیا جائے کہ آپ کے استاد کو معلوم نہ ہو۔" "لہذا، یہ سیکھنے میں مداخلت کر رہا ہے۔ یہ بنیادی عمل میں مداخلت کر رہا ہے اور بچوں کو یہ کام خود کرنا پڑتا ہے۔"

مواد کی نگرانی، عمر کی پیشن گوئی، اور وقفے کی یاد دہانی بھی جانچ میں غیر موثر پائی گئی۔ ایک وسیع پیمانے پر حوالہ دیا گیا ڈیٹا پوائنٹ: OpenAI نے کہا ہے کہ اوسط نوعمر صارف ChatGPT پر روزانہ 15 منٹ سے بھی کم وقت گزارتا ہے۔ لیکن نوجوانوں کے چھوٹے حصے میں سے جو روزانہ لگاتار تین گھنٹے سے زیادہ وقت گزارتے ہیں - 2 فیصد سے بھی کم صارفین - تقریباً نصف نے وقفے کی یاد دہانی موصول ہونے کے پانچ منٹ کے اندر اپنی بات چیت ختم کردی، جس سے یہ تجویز کیا گیا کہ nudges نے توسیع شدہ سیشنوں میں شاذ و نادر ہی مداخلت کی۔

OpenAI طریقہ کار پر پیچھے ہٹتا ہے۔

اوپن اے آئی نے اس رپورٹ کا جواب دیتے ہوئے ایک بیان میں کہا کہ وہ نوعمروں کی حفاظت کے لیے "گہرائی سے پرعزم" ہے اور اس نے اپنے بنائے ہوئے حفاظتی اقدامات اور والدین کو فراہم کیے جانے والے آلات کی طرف اشارہ کیا۔

"ہم سخت آزاد تشخیص کا خیرمقدم کرتے ہیں، لیکن ہمیں یقین نہیں ہے کہ کامن سینس میڈیا کی جانچ درست طریقے سے اس بات کی عکاسی کرتی ہے کہ ChatGPT کے نوعمر تحفظات عملی طور پر کس طرح کام کرتے ہیں یا ماہر نقطہ نظر سے کہ AI کس طرح نوعمروں کی مدد کر سکتا ہے،" ایک OpenAI ترجمان نے کہا۔ کمپنی نے کہا کہ گروپ کے طریقہ کار کے اس کے جائزے سے پتہ چلتا ہے کہ "ان کی جانچ کا زیادہ تر حصہ والدین کے کنٹرول کو چالو کرنے سے پہلے ہی شروع اور نتیجہ اخذ کر چکا ہو گا، جس سے ان کے نتائج غلط ہو جائیں گے،" انہوں نے مزید کہا کہ اس طرح کے ٹیسٹ اس بات کا تعین نہیں کریں گے کہ آیا والدین کی حفاظت کی اطلاعات ڈیزائن کے مطابق کام کرتی ہیں۔

سٹیئر نے کہا کہ ان کی تنظیم نتائج کے بارے میں اوپن اے آئی کے ساتھ رابطے میں تھی، جیسا کہ پروڈکٹ کی تشخیص کے دوران اس کا معیاری عمل ہے، اور نتائج پر قائم ہے۔ "ہم اپنی تحقیق اور جانچ کے معیار اور اس حقیقت کے پیچھے 100% کھڑے ہیں کہ ہم نے اس پروڈکٹ کو 'ناقابل قبول خطرہ' کا لیبل لگایا ہے،" انہوں نے آٹوموٹیو سیفٹی کا موازنہ کرتے ہوئے کہا: "اگر یہ کریش ٹیسٹ پاس نہیں کرتی تو آپ کار کو مارکیٹ میں نہیں لائیں گے۔"

AI اور نابالغوں پر بڑھتی ہوئی اسپاٹ لائٹ

یہ تنازعہ اس بات کی سخت جانچ پڑتال کے درمیان سامنے آیا ہے کہ کس طرح AI چیٹ بوٹس نوجوان صارفین کو متاثر کرتے ہیں، اسکول کے اضلاع سے لے کر عمر کی توثیق کے تقاضوں کو تولنے والے قانون سازوں تک رسائی کو محدود کرتے ہیں۔ اس طرح کے آزاد آڈٹ نوجوانوں کی حفاظت کے ان دعووں کے لیے ایک حقیقی جانچ کا میدان بن رہے ہیں جو AI کمپنیاں اپنی مارکیٹنگ میں کرتی ہیں۔

دونوں فریق ایک چیز پر متفق ہیں: والدین کا اطلاعی نظام بنیادی حیثیت رکھتا ہے۔ اگر انتباہات اس وقت برطرف ہونے میں ناکام ہوجاتے ہیں جب ایک نیا نوعمر اکاؤنٹ پہلی بار خود کو نقصان پہنچانے کے خیالات اٹھاتا ہے، تو سب سے اہم حفاظتی خصوصیت اس وقت ناکام ہوجاتی ہے جب یہ سب سے اہم ہے۔ اوپن اے آئی کا کہنا ہے کہ ٹیسٹنگ ناقص تھی۔ کامن سینس میڈیا کا کہنا ہے کہ پروڈکٹ تیار ہونے سے پہلے بھیج دیا گیا تھا۔ ریگولیٹرز اور والدین اب وزن کریں گے کہ کون صحیح ہے - اور OpenAI کو خلا کو دور کرنے یا پروڈکٹ کو واپس لینے کے لیے بڑھتے ہوئے دباؤ کا سامنا ہے۔

AI سیفٹی، پالیسی، اور AI انڈسٹری کی ترقیات کی مزید کوریج کے لیے جو ان کی شکل اختیار کریں، اس کہانی کی ترقی کے ساتھ ساتھ عمل کریں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →