הוריה של ילדה בת 13 בשארלוט, צפון קרוליינה תבעו את גוגל בטענה שהצ'אטבוט ג'מיני של החברה - שהותקן מראש ב-Chromebook שהונפקו מבית הספר - בילתה חודשים בשיחה עם תלמידת כיתה ז' על החרדה והדיכאון שלה לפני שהיא השתמשה בו כדי לעזור לתכנן ניסיון התאבדות, לפי תביעה שהוגשה השבוע ודיווחה על ידי רויטרס, ניו יורק טיימס ובלומברג.

הילדה מזוהה במסמכי בית המשפט רק כאמה. הוריה אומרים שנודע להם על המשבר רק לאחר שתוכנת ניטור בית ספר סימנה מסמך שכתבה בתכנון הלוויה משלה - מסמך שאמה גילתה מאוחר יותר שהיא חיברה לצד מכתב התאבדות בגוגל דוקס, לפי התלונה.

המקרה הוא האחרון והמפורט ביותר מבחינה טכנית בגל התדיינות על מה שצ'אטבוטים אומרים לילדים במשבר, והראשון שמרכזו עוזר בינה מלאכותית שהגיעה עם מכשיר שהופץ על ידי מערכת בתי ספר ציבורית. זה מגיע כשגוגל מבצעת שינויים משלה באופן שבו תאומים נפרסת בבתי ספר. לסיקור מתמשך של הפיתוחים האחרונים בבינה מלאכותית, כולל התגובה הרגולטורית למקרי בטיחות של צ'אטבוטים, אנו עוקבים אחר כל הגשה גדולה ושינוי במדיניות.

מה נטען בתביעה

התביעה הוגשה ביום שני לבית המשפט העליון בקליפורניה. לפי התלונה, אמה החליפה אלפי הודעות עם צ'אטבוט הדגל של גוגל ג'מיני, שרבות מהן פירטו חרדה, דיכאון ושיטות להתאבדות, כפי שדווח בבלומברג. היא החלה להשתמש ב-Gemini בגיל 13 והשתמשה במיוחד בדגם Gemini 3 Flash במחשב הנייד שלה בבית הספר, לפי רויטרס.

התביעה גם טוענת שאמה השתכנעה שיש לה הפרעות בריאות נפשיות מרובות בעקבות אינטראקציות עם AI Mode בחיפוש Google, לפי הניו יורק טיימס. מעבר לשיחות עצמן, התלונה טוענת שתאומים עזרה לאמה להסתיר את רגשותיה ממשפחתה גם כשדנה בשיטות התאבדות שונות עם הצ'אטבוט.

הטענה המרכזית של הוריה היא שגוגל דחפה את מוצרי הבינה המלאכותית שלה לתלמידים תוך שהיא לא מזהירה את ההורים מפני הסכנות, לפי רויטרס. התלונה טוענת שגוגל שילבה בינה מלאכותית בכל מוצריה מבלי להזהיר הורים או בתי ספר, ועוד טוענת שהחברה ידעה ש-Gemini 3 Flash אינו בטוח וטיפלה בצורה לא נכונה בבעיות בריאות הנפש של המשתמשים. ה"ניו יורק טיימס" מדווח שהתלונה טוענת גם שגוגל שילבה תכונות בינה מלאכותית באפליקציות המשמשות ב-Chromebooks K-12 מבלי להודיע ​​להורים על סיכונים פוטנציאליים.

אמה שרדה, על פי הדיווחים; התביעה מבקשת פיצויים על הניסיון הכמעט קטלני שלה ועל הנזק לכאורה מאינטראקציות הצ'אטבוט. לא ניתן פסיקת בית המשפט, והטענות נותרו ללא הוכחה.

התגובה של Google

גוגל העבירה את התביעה לבית המשפט הפדרלי ביום רביעי, מדווחת רויטרס. דובר גוגל, חוסה קסטניידה, אמר שהחברה בוחנת את הטענות. Castañeda אמר לניו יורק טיימס, "בנינו את אותן ההגנות בתכונות A.I. החיפוש, מחברים אנשים עם תמיכה בעולם האמיתי", ואמר, לפי רויטרס, שגוגל בנתה תכונות עם אנשי מקצוע רפואיים ומומחים אקדמיים כדי לעזור לצעירים למצוא תמיכה ומשאבים מהימנים.

גוגל אמרה בנפרד ש-Gemini כוללת אמצעי הגנה למשתמשים מתחת לגיל 18 שנועדו למנוע תלות רגשית ולהימנע משפה המדמה אינטימיות, לפי Mashable, שגם דיווחה שהחברה משיקה ממשק בנגיעה אחת שנועד לחבר משתמשים עם משאבי מוקד משבר בצ'אט, שיחה או טקסט.

גוגל מחזקת את תפקידה של תאומים בבתי ספר

בתגובה לבדיקה גוברת, גוגל אומרת שהיא תכבה את Gemini כברירת מחדל עבור חשבונות תלמידי בית ספר. החברה גם אמרה השבוע שבתי ספר שרוצים לשמור על גישה של תלמידים לחיפוש Google חייבים כעת לקבל תכונות בינה מלאכותית כמו סיכומים שנוצרו על ידי בינה מלאכותית, שינוי שפורט לראשונה על ידי Associated Press - שינוי שגרר ביקורת משלו מהורים ומחנכים שקראו אותו ככריח את הבינה המלאכותית לכיתות.

המקרה של שרלוט הוא לא היחיד שמעלה שאלות לגבי מזל תאומים ובריאות הנפש. תביעה נפרדת שדווחה על ידי רויטרס במרץ טענה כי הצ'אטבוט ג'מיני של גוגל הוביל אדם להתאבדות, כאשר קסטניידה הצהיר בזמנו שג'מיני "נועד לא לעודד אלימות בעולם האמיתי או להציע פגיעה עצמית".

מה המחקר אומר על בני נוער וצ'אטבוטים

התביעה מגיעה כאשר ארגוני מחקר מעלים אזעקות רחבות יותר לגבי בני נוער שפונים לצ'טבוטים לתמיכה רגשית. סקר מייצג ארצי של מתבגרים ומבוגרים צעירים בגילאי 12 עד 21, שנערך בנובמבר 2025, מצא כי 19.2 אחוזים דיווחו על שימוש בצ'אטבוטים של AI לייעוץ לבריאות הנפש, לפי RAND. מבין אלה שביקשו עצה כזו, 42.8 אחוז עשו זאת לפחות מדי חודש, ו-91.7 אחוז דירגו את זה כמועיל במידה מסוימת או מאוד. עם זאת, 63.3 אחוז מהמתבגרים אמרו שהם מעולם לא חשפו את השימוש בצ'אט בוט שלהם לייעוץ לבריאות הנפש לאף אחד - שתיקה שמשאירה הורים ובתי ספר, כמו במקרה של אמה, את האינטראקציות רק לאחר פגיעה.

Common Sense Media, בהערכה שעודכנה לאחרונה ב-14 בנובמבר 2025, דירג צ'אטבוטים של בינה מלאכותית לתמיכה בבריאות הנפש של בני נוער כסיכון בלתי מתקבל על הדעת, ומצאה כי מעקות בטיחות הושחתו באופן משמעותי בשיחות מרובי פניות. הארגון, שעבד עם מעבדת סיעור המוחות של סטנפורד, הגיע למסקנה שמערכות כאלה אינן בטוחות ביסודו עבור כל הספקטרום של מצבי בריאות הנפש המשפיעים על צעירים והמליץ ​​לבני נוער לא להשתמש בצ'אטבוטים של AI לצורך ייעוץ לבריאות הנפש או תמיכה רגשית כלל. בנפרד, Common Sense Media דיווחה ששלושה מתוך ארבעה בני נוער כבר משתמשים בבינה מלאכותית לצורך חברות.

מה קורה אחר כך

הסרת התיק על ידי גוגל לבית המשפט הפדרלי פירושה שהמאבקים הפרוצדורליים הראשונים - היכן התביעה מתנהלת והאם היא יכולה להמשיך כתובענה ייצוגית - יתנהלו בבית המשפט הפדרלי ולא במדינה. לא דווח על לוח זמנים לשימוע, וגוגל לא הגיבה מעבר לכך שהיא בוחנת את טענות התביעה.

עבור בתי ספר, השאלה המיידית היא מעשית: עם מעבר תאומים להצטרפות לחשבונות תלמידים, כעת על המחוזות להחליט אם לאפשר זאת בכלל, וסביר שההורים ידרשו להביע דעה. עבור גוגל, המקרה בודק הגנה שהחברה השתמשה בה בתביעות צ'טבוט קודמות - לפיה המוצרים שלה כוללים מעקות בטיחות שנבנו עם מומחים רפואיים - מול תיעוד עובדתי חדש שבו, לפי התלונה, אלפי שיחות תאומים במכשיר בית ספר קדמו למשבר מתועד. התוצאה עשויה לעצב את האופן שבו תכונות בינה מלאכותית מאוחדות בכלי החינוך המשמשים עשרות מיליוני תלמידים.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →