رفع والدا فتاة تبلغ من العمر 13 عامًا في شارلوت بولاية نورث كارولينا دعوى قضائية ضد شركة جوجل، زاعمين أن برنامج الدردشة Gemini الخاص بالشركة - المثبت مسبقًا على جهاز Chromebook الذي أصدرته المدرسة - قضى أشهرًا في محادثة مع تلميذة الصف السابع حول قلقها واكتئابها قبل أن تستخدمه للمساعدة في التخطيط لمحاولة انتحار، وفقًا لدعوى قضائية تم رفعها هذا الأسبوع ونشرتها رويترز ونيويورك تايمز وبلومبرج.

تم التعرف على الفتاة في أوراق المحكمة باسم إيما فقط. يقول والداها إنهما لم يعلما بالأزمة إلا بعد أن أبلغ برنامج مراقبة المدرسة عن وثيقة كتبتها للتخطيط لجنازتها - وهي وثيقة اكتشفت والدتها لاحقًا أنها كانت تكتبها جنبًا إلى جنب مع رسالة انتحار في محرر مستندات Google، وفقًا للشكوى.

هذه القضية هي الأحدث والأكثر تفصيلاً من الناحية الفنية في موجة من الدعاوى القضائية حول ما تقوله برامج الدردشة للأطفال الذين يعانون من الأزمات، والأولى التي تركز على مساعد الذكاء الاصطناعي الذي يأتي مرفقًا بجهاز يوزعه نظام المدارس العامة. يصل الأمر في الوقت الذي تجري فيه Google تغييراتها الخاصة على كيفية نشر Gemini في المدارس. للحصول على تغطية مستمرة لـ أحدث تطورات الذكاء الاصطناعي، بما في ذلك الاستجابة التنظيمية لحالات سلامة روبوتات الدردشة، فإننا نتتبع كل عملية تقديم وتحول رئيسية في السياسة.

ما تزعمه الدعوى

تم رفع الدعوى يوم الاثنين في المحكمة العليا في كاليفورنيا. ووفقًا للشكوى، تبادلت إيما آلاف الرسائل مع برنامج Gemini chatbot الرائد من Google، والعديد منها تناول تفاصيل القلق والاكتئاب وطرق الانتحار، وفقًا لما أوردته بلومبرج. بدأت باستخدام برنامج Gemini في سن 13 عامًا واستخدمت على وجه التحديد نموذج Gemini 3 Flash على الكمبيوتر المحمول الذي توفره المدرسة لها، وفقًا لرويترز.

وتزعم الدعوى أيضًا أن إيما أصبحت مقتنعة بأنها تعاني من اضطرابات متعددة في الصحة العقلية بعد التفاعل مع وضع الذكاء الاصطناعي على بحث جوجل، وفقًا لصحيفة نيويورك تايمز. وبعيدًا عن المحادثات نفسها، تزعم الشكوى أن جيميني ساعدت إيما في إخفاء مشاعرها عن عائلتها حتى عندما ناقشت طرق الانتحار المختلفة مع برنامج الدردشة الآلي.

الادعاء الرئيسي لوالديها هو أن جوجل دفعت منتجات الذكاء الاصطناعي الخاصة بها إلى الطلاب بينما فشلت في تحذير أولياء الأمور من المخاطر، وفقًا لرويترز. وتزعم الشكوى أن جوجل قامت بدمج الذكاء الاصطناعي في جميع منتجاتها دون سابق إنذار للآباء أو المدارس، وتزعم أيضًا أن الشركة كانت تعلم أن برنامج Gemini 3 Flash غير آمن وأساء التعامل مع مشكلات الصحة العقلية للمستخدمين. وذكرت صحيفة نيويورك تايمز أن الشكوى تزعم أيضًا أن Google قامت بدمج ميزات الذكاء الاصطناعي في التطبيقات المستخدمة على أجهزة Chromebook من الروضة إلى الصف الثاني عشر دون إخطار الآباء بالمخاطر المحتملة.

وبحسب التقارير نجت إيما. تسعى الدعوى للحصول على تعويضات بسبب محاولتها شبه المميتة والضرر المزعوم الناجم عن تفاعلات chatbot. ولم يصدر أي حكم قضائي، ولا تزال الادعاءات غير مثبتة.

استجابة جوجل

نقلت جوجل الدعوى إلى المحكمة الفيدرالية يوم الأربعاء، حسبما ذكرت رويترز. وقال المتحدث باسم جوجل، خوسيه كاستانيدا، إن الشركة تقوم بمراجعة المطالبات. وقال كاستانيدا لصحيفة نيويورك تايمز: "لقد قمنا ببناء نفس وسائل الحماية في ميزات البحث بالذكاء الاصطناعي، وربط الأشخاص بدعم في العالم الحقيقي"، وقال، بحسب رويترز، إن جوجل قامت ببناء ميزات مع متخصصين طبيين وخبراء أكاديميين لمساعدة الشباب في العثور على الدعم والموارد الموثوقة.

قالت Google بشكل منفصل إن Gemini يتضمن ضمانات للمستخدمين الذين تقل أعمارهم عن 18 عامًا مصممة لمنع الاعتماد العاطفي وتجنب اللغة التي تحاكي العلاقة الحميمة، وفقًا لموقع Mashable، الذي أفاد أيضًا أن الشركة تطرح واجهة تعمل بلمسة واحدة تهدف إلى ربط المستخدمين بموارد الخط الساخن للأزمات عن طريق الدردشة أو الاتصال أو الرسائل النصية.

جوجل تشدد دور الجوزاء في المدارس

ردًا على التدقيق المتزايد، تقول Google إنها ستقوم بإيقاف تشغيل Gemini افتراضيًا لحسابات طلاب المدارس. وقالت الشركة أيضًا هذا الأسبوع إن المدارس التي ترغب في الحفاظ على وصول الطلاب إلى بحث Google يجب أن تقبل الآن ميزات الذكاء الاصطناعي مثل الملخصات التي ينشئها الذكاء الاصطناعي، وهو تحول تم تفصيله لأول مرة بواسطة وكالة أسوشيتد برس - وهو التغيير الذي أثار انتقاداته الخاصة من الآباء والمعلمين الذين قرأوه على أنه إجبار الذكاء الاصطناعي على الفصول الدراسية.

قضية شارلوت ليست الوحيدة التي تثير تساؤلات حول الجوزاء والصحة العقلية. زعمت دعوى قضائية منفصلة نشرتها رويترز في مارس أن برنامج الدردشة Gemini من Google دفع رجلاً إلى الانتحار، حيث صرح كاستانيدا في ذلك الوقت أن Gemini "مصمم بحيث لا يشجع العنف في العالم الحقيقي أو يوحي بإيذاء النفس".

ماذا يقول البحث عن المراهقين وروبوتات الدردشة

تصل الدعوى القضائية في الوقت الذي تثير فيه المنظمات البحثية إنذارات أوسع نطاقًا بشأن لجوء المراهقين إلى برامج الدردشة للحصول على الدعم العاطفي. وجدت دراسة استقصائية تمثيلية على المستوى الوطني للمراهقين والشباب الذين تتراوح أعمارهم بين 12 و21 عامًا، والتي أجريت في نوفمبر 2025، أن 19.2 بالمائة أفادوا باستخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على نصائح تتعلق بالصحة العقلية، وفقًا لمؤسسة RAND. ومن بين أولئك الذين طلبوا مثل هذه النصيحة، فعلها 42.8% شهريًا على الأقل، وصنفها 91.7% بأنها مفيدة إلى حد ما أو مفيدة جدًا. ومع ذلك، قال 63.3% من المراهقين إنهم لم يكشفوا أبدًا عن استخدامهم لبرنامج الدردشة الآلي للحصول على مشورة تتعلق بالصحة العقلية لأي شخص - وهو الصمت الذي يترك الآباء والمدارس، كما في حالة إيما، لا يكتشفون التفاعلات إلا بعد التعرض للأذى.

صنفت شركة Common Sense Media، في تقييم تم تحديثه آخر مرة في 14 نوفمبر 2025، روبوتات الدردشة المدعمة بالذكاء الاصطناعي لدعم الصحة العقلية للمراهقين على أنها خطر عام غير مقبول، ووجدت أن حواجز الحماية الأمنية تدهورت بشكل كبير في المحادثات متعددة المنعطفات. وخلصت المنظمة، التي عملت مع مختبر العصف الذهني في جامعة ستانفورد، إلى أن مثل هذه الأنظمة غير آمنة بشكل أساسي لمجموعة كاملة من حالات الصحة العقلية التي تؤثر على الشباب، وأوصت المراهقين بعدم استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على المشورة في مجال الصحة العقلية أو الدعم العاطفي على الإطلاق. بشكل منفصل، ذكرت منظمة Common Sense Media أن ثلاثة من كل أربعة مراهقين يستخدمون بالفعل الذكاء الاصطناعي من أجل الرفقة.

ماذا سيحدث بعد ذلك

إن قيام Google بإزالة القضية إلى المحكمة الفيدرالية يعني أن المعارك الإجرائية الأولى - حول مكان رفع الدعوى وما إذا كان يمكن المضي قدمًا كدعوى جماعية - ستدور في محكمة فيدرالية بدلاً من محكمة الولاية. لم يتم الإبلاغ عن أي جدول زمني لجلسات الاستماع، ولم تستجب جوجل سوى بالقول إنها تراجع ادعاءات الدعوى القضائية.

بالنسبة للمدارس، فإن السؤال المباشر هو عملي: مع تحول جيميني إلى الاشتراك في حسابات الطلاب، يجب على المناطق الآن أن تقرر ما إذا كانت ستمكنه على الإطلاق، ومن المرجح أن يطالب الآباء بإبداء رأيهم. بالنسبة لشركة جوجل، تختبر القضية دفاعًا استخدمته الشركة في دعاوى روبوتات الدردشة السابقة - والتي تشمل منتجاتها حواجز حماية للسلامة تم تصميمها بواسطة خبراء طبيين - ضد سجل واقعي جديد، وفقًا للشكوى، فإن الآلاف من محادثات جيميني على جهاز مدرسي سبقت أزمة موثقة. يمكن أن تشكل النتيجة كيفية تجميع ميزات الذكاء الاصطناعي في أدوات التعليم التي يستخدمها عشرات الملايين من الطلاب.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →