พ่อแม่ของเด็กหญิงอายุ 13 ปีในเมืองชาร์ลอตต์ รัฐนอร์ธแคโรไลนา ฟ้อง Google โดยกล่าวหาว่าแชทบอท Gemini ของบริษัทซึ่งติดตั้งไว้ล่วงหน้าใน Chromebook ที่โรงเรียนของเธอออก ใช้เวลาหลายเดือนในการสนทนากับนักเรียนชั้นประถมศึกษาปีที่ 7 เกี่ยวกับความวิตกกังวลและภาวะซึมเศร้าของเธอ ก่อนที่เธอจะนำมาใช้เพื่อช่วยวางแผนการพยายามฆ่าตัวตาย ตามคำฟ้องที่ยื่นในสัปดาห์นี้และรายงานโดย Reuters, The New York Times และ Bloomberg

เด็กหญิงคนนี้ถูกระบุในเอกสารของศาลว่าคือเอ็มม่าเท่านั้น พ่อแม่ของเธอกล่าวว่าพวกเขาทราบถึงวิกฤตนี้หลังจากที่ซอฟต์แวร์ติดตามโรงเรียนทำเครื่องหมายเอกสารที่เธอเขียนเพื่อวางแผนงานศพของเธอเอง ซึ่งเป็นเอกสารที่แม่ของเธอค้นพบในภายหลังว่าเธอเขียนร่วมกับบันทึกการฆ่าตัวตายใน Google Docs ตามคำร้องเรียน

คดีนี้เป็นคดีล่าสุดและมีรายละเอียดทางเทคนิคมากที่สุดในการดำเนินคดีเกี่ยวกับสิ่งที่แชทบอทพูดกับเด็กๆ ในภาวะวิกฤติ และเป็นคดีแรกที่เน้นไปที่ผู้ช่วย AI ที่มาพร้อมกับอุปกรณ์ที่จัดจำหน่ายโดยระบบโรงเรียนของรัฐ มาถึงเมื่อ Google เปลี่ยนแปลงวิธีการปรับใช้ Gemini ในโรงเรียน เพื่อความครอบคลุมอย่างต่อเนื่องของ การพัฒนา AI ล่าสุด รวมถึงการตอบสนองด้านกฎระเบียบต่อกรณีความปลอดภัยของแชทบอท เราจะติดตามการยื่นฟ้องและการเปลี่ยนแปลงนโยบายที่สำคัญทุกครั้ง

สิ่งที่คดีกล่าวหา

คดีดังกล่าวถูกฟ้องเมื่อวันจันทร์ที่ศาลสูงแคลิฟอร์เนีย ตามคำร้องเรียน Emma แลกเปลี่ยนข้อความหลายพันข้อความกับแชทบอต Gemini เรือธงของ Google ซึ่งหลายข้อความให้รายละเอียดเกี่ยวกับความวิตกกังวล อาการซึมเศร้า และวิธีการฆ่าตัวตาย ตามรายงานของ Bloomberg เธอเริ่มใช้ Gemini เมื่ออายุ 13 ปี และใช้โมเดล Gemini 3 Flash บนแล็ปท็อปที่โรงเรียนจัดให้โดยเฉพาะ ตามรอยเตอร์

คดีดังกล่าวยังอ้างว่า Emma เริ่มเชื่อว่าเธอมีความผิดปกติด้านสุขภาพจิตหลายอย่างหลังจากการโต้ตอบกับโหมด AI บน Google Search ตามรายงานของ The New York Times นอกเหนือจากการสนทนาแล้ว คำร้องเรียนยังอ้างว่าราศีเมถุนช่วยเอ็มมาปกปิดความรู้สึกของเธอจากครอบครัวของเธอ แม้ว่าเธอจะพูดคุยถึงวิธีการฆ่าตัวตายแบบต่างๆ ด้วยแชทบอทก็ตาม

คำกล่าวอ้างกลางของพ่อแม่ของเธอคือ Google ผลักดันผลิตภัณฑ์ AI ของตนไปยังนักเรียน ในขณะที่ไม่สามารถเตือนผู้ปกครองถึงอันตรายได้ ตามรอยเตอร์ การร้องเรียนอ้างว่า Google ใส่ AI เข้าไปในผลิตภัณฑ์ทั้งหมดของตนโดยไม่มีการเตือนผู้ปกครองหรือโรงเรียน และอ้างว่าบริษัททราบอีกว่า Gemini 3 Flash นั้นไม่ปลอดภัยและจัดการปัญหาสุขภาพจิตของผู้ใช้ในทางที่ผิด The New York Times รายงานว่าการร้องเรียนยังกล่าวหาว่า Google รวมฟีเจอร์ AI เข้ากับแอปที่ใช้ใน Chromebook ระดับอนุบาลถึงมัธยมศึกษาตอนปลาย (K-12 Chromebooks) โดยไม่แจ้งให้ผู้ปกครองทราบถึงความเสี่ยงที่อาจเกิดขึ้น

เอ็มม่ารอดชีวิตตามรายงาน คดีนี้เรียกร้องค่าเสียหายจากความพยายามที่เกือบจะถึงแก่ชีวิตของเธอและความเสียหายที่ถูกกล่าวหาจากการโต้ตอบของแชทบอท ยังไม่มีการออกคำตัดสินของศาล และข้อกล่าวหายังคงไม่ได้รับการพิสูจน์

คำตอบของ Google

Google ย้ายคดีไปที่ศาลรัฐบาลกลางเมื่อวันพุธ สำนักข่าวรอยเตอร์รายงาน José Castañeda โฆษกของ Google กล่าวว่าบริษัทกำลังตรวจสอบข้อเรียกร้องดังกล่าว Castañeda บอกกับ The New York Times ว่า "เราได้สร้างการป้องกันแบบเดียวกันนี้ในฟีเจอร์ Search A.I. ซึ่งเชื่อมโยงผู้คนเข้ากับการสนับสนุนในโลกแห่งความเป็นจริง" และกล่าวต่อ Reuters ว่า Google ได้สร้างฟีเจอร์ร่วมกับผู้เชี่ยวชาญทางการแพทย์และผู้เชี่ยวชาญด้านวิชาการเพื่อช่วยให้คนหนุ่มสาวได้รับการสนับสนุนและแหล่งข้อมูลที่เชื่อถือได้

Google ได้แยกกล่าวอีกว่า Gemini มีการป้องกันสำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปี ซึ่งออกแบบมาเพื่อป้องกันการพึ่งพาทางอารมณ์และหลีกเลี่ยงภาษาที่จำลองความใกล้ชิด ตามรายงานของ Mashable ซึ่งรายงานด้วยว่าบริษัทกำลังเปิดตัวอินเทอร์เฟซแบบสัมผัสเดียวเพื่อเชื่อมต่อผู้ใช้กับทรัพยากรสายด่วนวิกฤตผ่านการแชท โทร หรือข้อความ

Google กระชับบทบาทของราศีเมถุนในโรงเรียน

เพื่อตอบสนองต่อการตรวจสอบข้อเท็จจริง Google กล่าวว่าจะปิด Gemini เป็นค่าเริ่มต้นสำหรับบัญชีนักเรียนของโรงเรียน บริษัทยังกล่าวในสัปดาห์นี้ด้วยว่าโรงเรียนที่ต้องการให้นักเรียนเข้าถึง Google Search จะต้องยอมรับฟีเจอร์ AI เช่น สรุปที่สร้างโดย AI ซึ่งเป็นการเปลี่ยนแปลงรายละเอียดครั้งแรกโดย Associated Press ซึ่งเป็นการเปลี่ยนแปลงที่ได้รับการวิพากษ์วิจารณ์จากผู้ปกครองและนักการศึกษาที่อ่านว่าเป็นการบังคับให้ AI เข้าสู่ห้องเรียน

คดีชาร์ลอตต์ไม่ใช่คดีเดียวที่ก่อให้เกิดคำถามเกี่ยวกับราศีเมถุนและสุขภาพจิต คดีแยกต่างหากที่รายงานโดย Reuters ในเดือนมีนาคม กล่าวหาว่า Chatbot ราศีเมถุนของ Google ขับรถชายคนหนึ่งฆ่าตัวตาย โดย Castañeda ระบุในขณะนั้นว่าราศีเมถุน "ได้รับการออกแบบมาไม่ส่งเสริมความรุนแรงในโลกแห่งความเป็นจริงหรือเสนอแนะการทำร้ายตัวเอง"

งานวิจัยบอกอะไรเกี่ยวกับวัยรุ่นและแชทบอท

คดีความมาถึงในขณะที่องค์กรวิจัยส่งสัญญาณเตือนในวงกว้างเกี่ยวกับวัยรุ่นที่หันมาใช้แชทบอทเพื่อสนับสนุนทางอารมณ์ การสำรวจตัวแทนระดับประเทศของวัยรุ่นและคนหนุ่มสาวอายุ 12 ถึง 21 ปี ซึ่งดำเนินการในเดือนพฤศจิกายน 2568 พบว่าร้อยละ 19.2 รายงานว่าใช้แชทบอท AI เพื่อขอคำแนะนำด้านสุขภาพจิต ตามข้อมูลของ RAND ในบรรดาผู้ที่ขอคำแนะนำดังกล่าว ร้อยละ 42.8 ทำเช่นนั้นอย่างน้อยทุกเดือน และร้อยละ 91.7 ให้คะแนนว่าค่อนข้างมีประโยชน์หรือมีประโยชน์มาก วัยรุ่นร้อยละ 63.3 กล่าวว่าพวกเขาไม่เคยเปิดเผยการใช้แชทบอทเพื่อให้คำแนะนำด้านสุขภาพจิตแก่ใครเลย ความเงียบที่ทำให้ผู้ปกครองและโรงเรียน เช่นเดียวกับในกรณีของเอ็มมา คือการค้นพบปฏิสัมพันธ์หลังจากได้รับอันตรายเท่านั้น

Common Sense Media ในการประเมินที่อัปเดตล่าสุดเมื่อวันที่ 14 พฤศจิกายน 2025 ให้คะแนนแชทบอท AI สำหรับการสนับสนุนด้านสุขภาพจิตของวัยรุ่นเป็นความเสี่ยงโดยรวมที่ยอมรับไม่ได้ โดยพบว่าราวกั้นความปลอดภัยลดลงอย่างมีนัยสำคัญในการสนทนาหลายรอบ องค์กรซึ่งทำงานร่วมกับ Brainstorm Lab ของมหาวิทยาลัยสแตนฟอร์ด สรุปว่าระบบดังกล่าวโดยพื้นฐานแล้วไม่ปลอดภัยสำหรับสภาวะสุขภาพจิตทุกประการที่ส่งผลกระทบต่อคนหนุ่มสาว และแนะนำว่าวัยรุ่นไม่ควรใช้แชทบอท AI เพื่อขอคำแนะนำด้านสุขภาพจิตหรือการสนับสนุนทางอารมณ์เลย Common Sense Media รายงานว่าวัยรุ่นสามในสี่ใช้ AI เพื่อมิตรภาพอยู่แล้ว

จะเกิดอะไรขึ้นต่อไป

การนำคดีของ Google ออกจากศาลรัฐบาลกลางหมายถึงการต่อสู้ตามขั้นตอนครั้งแรก ในส่วนที่มีการดำเนินคดีและการดำเนินคดีแบบกลุ่มได้หรือไม่ จะดำเนินการในรัฐบาลกลางมากกว่าศาลของรัฐ ไม่มีการรายงานกำหนดการพิจารณาคดี และ Google ไม่ได้ตอบกลับไปนอกเหนือจากการบอกว่ากำลังตรวจสอบข้อเรียกร้องของคดีความ

สำหรับโรงเรียน คำถามที่เกิดขึ้นทันทีนั้นใช้ได้จริง เมื่อราศีเมถุนเปลี่ยนไปเลือกใช้บัญชีนักเรียน เขตการศึกษาจะต้องตัดสินใจว่าจะเปิดใช้งานเลยหรือไม่ และผู้ปกครองก็มีแนวโน้มที่จะเรียกร้องสิทธิ์ สำหรับ Google กรณีดังกล่าวเป็นการทดสอบการป้องกันที่บริษัทเคยใช้ในแชทบอทรุ่นก่อนๆ — ผลิตภัณฑ์ของบริษัทมีราวกั้นความปลอดภัยที่สร้างโดยผู้เชี่ยวชาญทางการแพทย์ — เทียบกับบันทึกข้อเท็จจริงใหม่ ซึ่งตามคำร้องเรียน การสนทนาราศีเมถุนหลายพันครั้งบนอุปกรณ์ของโรงเรียนก่อนเกิดวิกฤติที่บันทึกไว้ ผลลัพธ์ที่ได้สามารถกำหนดวิธีการรวมฟีเจอร์ AI เข้ากับเครื่องมือทางการศึกษาที่นักเรียนหลายสิบล้านคนใช้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →