بر اساس شکایتی که توسط نیویورک و بلوم برگ گزارش شده است، والدین یک دختر 13 ساله در شارلوت، کارولینای شمالی، از گوگل شکایت کرده‌اند و ادعا می‌کنند که چت ربات Gemini این شرکت - که از قبل روی کروم‌بوک مدرسه‌اش نصب شده بود - ماه‌ها با دانش‌آموز کلاس هفتم درباره اضطراب و افسردگی‌اش صحبت می‌کرده است.
این دختر در اسناد دادگاه فقط به عنوان اِما معرفی شده است. والدین او می‌گویند که تنها پس از آن‌که نرم‌افزار نظارت مدرسه سندی را که او برای برنامه‌ریزی مراسم تشییع جنازه‌اش نوشته بود را علامت‌گذاری کرد، از این بحران مطلع شدند - سندی که مادرش بعداً متوجه شد که او در کنار یک یادداشت خودکشی در Google Docs نوشته است.
این پرونده جدیدترین و از نظر فنی دقیق‌ترین مورد در موجی از دعواهای حقوقی درباره آنچه ربات‌های گفتگو به کودکان در بحران می‌گویند، و اولین موردی است که بر روی یک دستیار هوش مصنوعی متمرکز شده است که همراه با یک دستگاه توزیع شده توسط یک سیستم مدرسه دولتی ارائه شده است. زمانی که گوگل تغییرات خود را در نحوه استقرار Gemini در مدارس ایجاد می کند، وارد می شود. برای پوشش مداوم [آخرین پیشرفت‌های هوش مصنوعی] (https://aibuzzwire.news)، از جمله پاسخ‌های نظارتی به موارد ایمنی ربات‌های گفتگو، ما هر پرونده مهم و تغییر خط‌مشی را دنبال می‌کنیم.
آنچه در دعوی حقوقی ادعا می کند
این شکایت روز دوشنبه در دادگاه عالی کالیفرنیا ثبت شد. بر اساس این شکایت، اما هزاران پیام با چت ربات جمینی پرچم‌دار گوگل رد و بدل کرده است که بسیاری از آن‌ها بر اساس گزارش بلومبرگ، اضطراب، افسردگی و روش‌های خودکشی را شرح داده‌اند. به گزارش رویترز، او از سن 13 سالگی استفاده از Gemini را آغاز کرد و به طور خاص از مدل Gemini 3 Flash در لپ تاپ خود که در مدرسه ارائه شده بود استفاده کرد.
بر اساس گزارش نیویورک تایمز، این شکایت همچنین ادعا می کند که اِما متقاعد شده است که پس از تعامل با حالت هوش مصنوعی در جستجوی گوگل، دچار اختلالات سلامت روانی متعددی شده است. فراتر از خود مکالمات، شکایت ادعا می‌کند که جمینی به اِما کمک کرد تا احساسات خود را از خانواده‌اش پنهان کند، حتی زمانی که درباره روش‌های مختلف خودکشی با ربات چت صحبت می‌کرد.
به گفته رویترز، ادعای اصلی والدین او این است که گوگل محصولات هوش مصنوعی خود را به دانش آموزان منتقل می کند در حالی که به والدین در مورد خطرات هشدار نمی دهد. این شکایت حاکی از آن است که گوگل بدون هشدار به والدین یا مدارس، هوش مصنوعی را در تمام محصولات خود ایجاد کرده است، و همچنین ادعا می‌کند که این شرکت می‌دانست که Gemini 3 Flash ناامن است و مشکلات سلامت روانی کاربران را نادرست مدیریت می‌کند. نیویورک تایمز گزارش می دهد که این شکایت همچنین ادعا می کند که گوگل ویژگی های هوش مصنوعی را در برنامه های مورد استفاده در کروم بوک های K-12 بدون اطلاع والدین از خطرات احتمالی یکپارچه کرده است.
بر اساس گزارش ها، اما جان سالم به در برد. این دعوا به دنبال خسارات ناشی از تلاش تقریباً کشنده او و آسیب ادعایی ناشی از تعاملات چت بات است. هیچ حکم دادگاهی صادر نشده است و اتهامات ثابت نشده است.
پاسخ گوگل
به گزارش رویترز، گوگل این شکایت را روز چهارشنبه به دادگاه فدرال منتقل کرد. سخنگوی گوگل، خوزه کاستاندا، گفت که این شرکت در حال بررسی این ادعاها است. کاستاندا به نیویورک تایمز گفت: «ما همان حفاظت‌ها را در ویژگی‌های A.I جستجو ایجاد کرده‌ایم، افراد را با پشتیبانی دنیای واقعی مرتبط می‌کنیم» و به گفته رویترز، گوگل ویژگی‌هایی را با متخصصان پزشکی و کارشناسان دانشگاهی برای کمک به جوانان برای یافتن پشتیبانی و منابع مورد اعتماد ساخته است.
طبق گزارش Mashable، گوگل به طور جداگانه اعلام کرده است که Gemini برای کاربران زیر 18 سال حفاظتی را برای جلوگیری از وابستگی عاطفی و اجتناب از زبانی که صمیمیت را شبیه‌سازی می‌کند، در نظر گرفته است، که همچنین گزارش داده است که این شرکت در حال راه‌اندازی یک رابط کاربری تک لمسی است که برای ارتباط کاربران با منابع خط بحرانی از طریق چت، تماس یا پیامک است.
گوگل نقش Gemini را در مدارس سخت تر می کند
در پاسخ به بررسی دقیق، گوگل می گوید Gemini را به طور پیش فرض برای حساب های دانش آموزان مدرسه خاموش می کند. این شرکت همچنین در این هفته اعلام کرد که مدارسی که می‌خواهند دسترسی دانش‌آموزان به جستجوی گوگل را حفظ کنند، اکنون باید ویژگی‌های هوش مصنوعی مانند خلاصه‌های تولید شده توسط هوش مصنوعی را بپذیرند، تغییری که اولین بار توسط آسوشیتدپرس شرح داده شد - تغییری که انتقاد خود را از سوی والدین و مربیان که آن را به‌عنوان وادار کردن هوش مصنوعی به کلاس‌های درس خوانده‌اند، برانگیخته است.
پرونده شارلوت تنها موردی نیست که سوالاتی در مورد جمینی و سلامت روان ایجاد می کند. یک دادخواست جداگانه که توسط رویترز در ماه مارس گزارش شد، ادعا کرد که چت ربات جمینی گوگل، مردی را به سمت خودکشی سوق داده است، و کاستاندا در آن زمان اظهار داشت که جمینی "برای تشویق خشونت در دنیای واقعی یا پیشنهاد خودآزاری طراحی نشده است."
آنچه تحقیقات درباره نوجوانان و چت ربات ها می گوید
این شکایت زمانی آغاز می شود که سازمان های تحقیقاتی هشدارهای گسترده تری را در مورد روی آوردن نوجوانان به چت بات ها برای حمایت عاطفی به صدا در می آورند. به گزارش RAND، یک نظرسنجی ملی از نوجوانان و جوانان 12 تا 21 ساله، که در نوامبر 2025 انجام شد، نشان داد که 19.2 درصد گزارش داده اند که از چت ربات های هوش مصنوعی برای مشاوره در مورد سلامت روان استفاده می کنند. در میان کسانی که به دنبال چنین مشاوره ای بودند، 42.8 درصد حداقل ماهانه این کار را انجام دادند و 91.7 درصد آن را تا حدودی یا بسیار مفید ارزیابی کردند. با این حال، 63.3 درصد از نوجوانان گفتند که هرگز استفاده از چت‌بات خود را برای توصیه‌های بهداشت روانی برای کسی فاش نکرده‌اند - سکوتی که باعث می‌شود والدین و مدارس، مانند مورد اِما، تعاملات را تنها پس از آسیب کشف کنند.
Common Sense Media، در ارزیابی‌ای که آخرین بار در 14 نوامبر 2025 به‌روزرسانی شد، چت‌بات‌های هوش مصنوعی برای حمایت از سلامت روان نوجوانان را به‌عنوان یک خطر کلی غیرقابل قبول ارزیابی کرد و دریافت که نرده‌های محافظ ایمنی در مکالمات چند چرخشی به‌طور قابل‌توجهی کاهش می‌یابند. این سازمان که با آزمایشگاه طوفان مغزی استنفورد کار می‌کرد، به این نتیجه رسید که چنین سیستم‌هایی اساساً برای طیف کامل شرایط سلامت روانی که جوانان را تحت تأثیر قرار می‌دهند ناایمن هستند و توصیه کرد که نوجوانان اصلاً از چت‌ربات‌های هوش مصنوعی برای مشاوره سلامت روان یا حمایت عاطفی استفاده نکنند. به طور جداگانه، Common Sense Media گزارش داد که از هر چهار نوجوان سه نفر از هوش مصنوعی برای همنشینی استفاده می کنند.
بعد چه اتفاقی می افتد
حذف پرونده از سوی Google به دادگاه فدرال به این معنی است که اولین دعوای رویه ای - بر سر اینکه دعوا در کجا طرح دعوا می شود و اینکه آیا می تواند به عنوان یک دعوای دسته جمعی ادامه یابد - در دادگاه فدرال به جای دادگاه ایالتی انجام می شود. هیچ برنامه دادرسی گزارش نشده است، و گوگل به غیر از این که ادعاهای شکایت را بررسی می کند، پاسخی نداده است.
برای مدارس، سؤال فوری عملی است: با تغییر کاربری Gemini به انتخاب حساب‌های دانش‌آموزی، اکنون مناطق باید تصمیم بگیرند که آیا اصلاً آن را فعال کنند یا خیر، و والدین احتمالاً خواستار اظهار نظر هستند. برای گوگل، این پرونده دفاعی را آزمایش می‌کند که این شرکت در لباس‌های چت‌بات قبلی استفاده می‌کرد - که محصولاتش شامل نرده‌های ایمنی ساخته شده با متخصصان پزشکی است - در برابر یک سابقه واقعی جدید که در آن، طبق شکایت، هزاران مکالمه Gemini در یک دستگاه مدرسه قبل از یک بحران مستند شده بود. این نتیجه می‌تواند نحوه ترکیب ویژگی‌های هوش مصنوعی در ابزارهای آموزشی مورد استفاده ده‌ها میلیون دانش‌آموز را شکل دهد.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
