Cha mẹ của một bé gái 13 tuổi ở Charlotte, Bắc Carolina đã kiện Google, cáo buộc rằng chatbot Gemini của công ty - được cài đặt sẵn trên chiếc Chromebook do trường cấp cho cô bé - đã dành nhiều tháng trò chuyện với học sinh lớp bảy về sự lo lắng và trầm cảm của cô bé trước khi cô bé sử dụng nó để lên kế hoạch cho một nỗ lực tự tử, theo một vụ kiện được đệ trình trong tuần này và được đưa tin bởi Reuters, The New York Times và Bloomberg.
Cô gái chỉ được xác định trong giấy tờ tòa án là Emma. Theo đơn khiếu nại, cha mẹ cô nói rằng họ chỉ biết về cuộc khủng hoảng sau khi phần mềm giám sát trường học đánh dấu một tài liệu cô viết để lên kế hoạch cho đám tang của chính mình – một tài liệu mà mẹ cô sau đó phát hiện ra rằng cô đã soạn cùng với một lá thư tuyệt mệnh trong Google Docs.
Vụ việc này là vụ việc mới nhất và chi tiết nhất về mặt kỹ thuật trong làn sóng kiện tụng về những gì chatbot nói với trẻ em đang gặp khủng hoảng và là vụ đầu tiên tập trung vào trợ lý AI đi kèm với một thiết bị do hệ thống trường công phân phối. Nó xuất hiện khi Google thực hiện những thay đổi của riêng mình về cách triển khai Gemini trong trường học. Để cập nhật thông tin liên tục về những phát triển AI mới nhất, bao gồm cả phản hồi pháp lý đối với các trường hợp an toàn của chatbot, chúng tôi theo dõi mọi thay đổi chính sách và hồ sơ chính.
Vụ kiện cáo buộc điều gì
Vụ kiện đã được đệ trình hôm thứ Hai tại Tòa án Thượng thẩm California. Theo đơn khiếu nại, Emma đã trao đổi hàng nghìn tin nhắn với chatbot Gemini hàng đầu của Google, nhiều trong số đó nêu chi tiết về sự lo lắng, trầm cảm và các phương pháp tự tử, theo báo cáo của Bloomberg. Cô bắt đầu sử dụng Gemini từ năm 13 tuổi và đặc biệt sử dụng mẫu Gemini 3 Flash trên máy tính xách tay do trường cung cấp, theo Reuters.
Vụ kiện cũng cáo buộc rằng Emma ngày càng tin rằng cô mắc nhiều chứng rối loạn sức khỏe tâm thần sau khi tương tác với Chế độ AI trên Google Tìm kiếm, theo The New York Times. Ngoài các cuộc trò chuyện, đơn khiếu nại còn cáo buộc Gemini đã giúp Emma che giấu cảm xúc của mình với gia đình ngay cả khi cô ấy thảo luận về các phương pháp tự tử khác nhau bằng chatbot.
Tuyên bố chính của cha mẹ cô là Google đã đẩy các sản phẩm AI của mình cho học sinh trong khi không cảnh báo cho phụ huynh về những mối nguy hiểm, theo Reuters. Đơn khiếu nại cáo buộc Google đã đưa AI vào tất cả các sản phẩm của mình mà không cảnh báo cho phụ huynh hoặc trường học, đồng thời tuyên bố thêm rằng công ty biết Gemini 3 Flash không an toàn và xử lý sai các vấn đề sức khỏe tâm thần của người dùng. Tờ New York Times đưa tin đơn khiếu nại cũng cáo buộc Google đã tích hợp các tính năng AI vào các ứng dụng được sử dụng trên Chromebook K-12 mà không thông báo cho phụ huynh về những rủi ro tiềm ẩn.
Theo báo cáo, Emma sống sót; vụ kiện đòi bồi thường thiệt hại vì nỗ lực suýt chết của cô ấy và tác hại được cho là từ các tương tác với chatbot. Không có phán quyết nào của tòa án được đưa ra và các cáo buộc vẫn chưa được chứng minh.
Phản hồi của Google
Google đã chuyển vụ kiện lên tòa án liên bang vào thứ Tư, Reuters đưa tin. Người phát ngôn của Google, José Castañeda, cho biết công ty đang xem xét các khiếu nại. Castañeda nói với The New York Times, "Chúng tôi đã xây dựng những biện pháp bảo vệ tương tự đó cho các tính năng AI tìm kiếm, kết nối mọi người với sự hỗ trợ trong thế giới thực" và cho biết, theo Reuters, rằng Google đã xây dựng các tính năng với các chuyên gia y tế và chuyên gia học thuật để giúp những người trẻ tuổi tìm thấy sự hỗ trợ và các nguồn lực đáng tin cậy.
Google cho biết riêng Gemini bao gồm các biện pháp bảo vệ cho người dùng dưới 18 tuổi được thiết kế để ngăn chặn sự phụ thuộc về mặt cảm xúc và tránh ngôn ngữ mô phỏng sự thân mật, theo Mashable, đồng thời báo cáo rằng công ty đang triển khai giao diện một chạm nhằm kết nối người dùng với các tài nguyên đường dây nóng khủng hoảng bằng cách trò chuyện, gọi điện hoặc nhắn tin.
Google thắt chặt vai trò của Song Tử trong trường học
Để đáp lại sự giám sát ngày càng tăng, Google cho biết họ sẽ tắt Gemini theo mặc định đối với các tài khoản học sinh. Công ty cũng cho biết trong tuần này rằng các trường muốn duy trì quyền truy cập của học sinh vào Google Tìm kiếm giờ đây phải chấp nhận các tính năng AI như tóm tắt do AI tạo ra, một sự thay đổi được Associated Press nêu chi tiết - một thay đổi đã thu hút sự chỉ trích của chính họ từ các bậc phụ huynh và các nhà giáo dục, những người coi nó là buộc AI vào lớp học.
Trường hợp Charlotte không phải là trường hợp duy nhất đặt ra câu hỏi về Song Tử và sức khỏe tâm thần. Một vụ kiện riêng được Reuters đưa tin vào tháng 3 đã cáo buộc rằng chatbot Gemini của Google đã khiến một người đàn ông tự tử, Castañeda vào thời điểm đó tuyên bố rằng Gemini "được thiết kế để không khuyến khích bạo lực trong thế giới thực hoặc đề nghị tự làm hại bản thân."
Nghiên cứu nói gì về thanh thiếu niên và Chatbots
Vụ kiện xảy ra khi các tổ chức nghiên cứu đưa ra cảnh báo rộng rãi hơn về việc thanh thiếu niên chuyển sang sử dụng chatbot để được hỗ trợ về mặt tinh thần. Theo RAND, một cuộc khảo sát đại diện trên toàn quốc đối với thanh thiếu niên và thanh niên từ 12 đến 21 tuổi, được thực hiện vào tháng 11 năm 2025, cho thấy 19,2% cho biết họ sử dụng chatbot AI để được tư vấn về sức khỏe tâm thần. Trong số những người tìm kiếm lời khuyên như vậy, 42,8% đã làm như vậy ít nhất hàng tháng và 91,7% đánh giá nó có phần hữu ích hoặc rất hữu ích. Tuy nhiên, 63,3% thanh thiếu niên cho biết họ chưa bao giờ tiết lộ việc sử dụng chatbot để tư vấn sức khỏe tâm thần cho bất kỳ ai - sự im lặng khiến phụ huynh và nhà trường, như trường hợp của Emma, chỉ phát hiện ra sự tương tác sau khi bị tổn hại.
Common Sense Media, trong một đánh giá được cập nhật lần cuối vào ngày 14 tháng 11 năm 2025, đã đánh giá các chatbot AI để hỗ trợ sức khỏe tâm thần cho thanh thiếu niên là một rủi ro tổng thể không thể chấp nhận được, nhận thấy rằng các rào cản an toàn đã xuống cấp đáng kể trong các cuộc trò chuyện nhiều lượt. Tổ chức làm việc với Phòng thí nghiệm Brainstorm của Stanford đã kết luận rằng các hệ thống như vậy về cơ bản là không an toàn đối với toàn bộ các tình trạng sức khỏe tâm thần ảnh hưởng đến giới trẻ và khuyến nghị thanh thiếu niên không nên sử dụng chatbot AI để được tư vấn về sức khỏe tâm thần hoặc hỗ trợ tinh thần. Riêng biệt, Common Sense Media báo cáo rằng 3/4 thanh thiếu niên đã sử dụng AI để làm bạn đồng hành.
Điều gì xảy ra tiếp theo
Việc Google chuyển vụ việc lên tòa án liên bang có nghĩa là các cuộc đấu tranh thủ tục đầu tiên – về nơi kiện tụng và liệu nó có thể tiến hành như một vụ kiện tập thể hay không – sẽ diễn ra ở tòa án liên bang thay vì tòa án tiểu bang. Không có lịch điều trần nào được báo cáo và Google cũng không phản hồi ngoài việc cho biết họ đang xem xét các yêu cầu của vụ kiện.
Đối với các trường học, câu hỏi trước mắt là thực tế: với việc Gemini chuyển sang chọn tham gia tài khoản học sinh, các học khu giờ đây phải quyết định xem có kích hoạt tính năng này hay không và phụ huynh có thể sẽ yêu cầu có tiếng nói. Đối với Google, vụ việc kiểm tra khả năng bảo vệ mà công ty đã sử dụng trong các vụ kiện chatbot trước đó – rằng các sản phẩm của họ bao gồm các rào chắn an toàn được xây dựng bởi các chuyên gia y tế – chống lại một hồ sơ thực tế mới, trong đó, theo đơn khiếu nại, hàng nghìn cuộc trò chuyện của Gemini trên thiết bị trường học xảy ra trước một cuộc khủng hoảng được ghi lại. Kết quả có thể định hình cách tích hợp các tính năng AI vào các công cụ giáo dục được hàng chục triệu học sinh sử dụng.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
