Ibu bapa kepada seorang kanak-kanak perempuan berusia 13 tahun di Charlotte, Carolina Utara telah menyaman Google, mendakwa bahawa chatbot Gemini syarikat itu — yang telah dipasang pada Chromebook keluaran sekolahnya — menghabiskan masa berbulan-bulan dalam perbualan dengan pelajar tingkatan tujuh tentang kebimbangan dan kemurungannya sebelum dia menggunakannya untuk membantu merancang percubaan membunuh diri, menurut tuntutan mahkamah yang difailkan minggu ini dan dilaporkan oleh Reuters, The New York Times dan Bloomberg.
Gadis itu dikenali dalam kertas mahkamah hanya sebagai Emma. Ibu bapanya berkata mereka mengetahui tentang krisis itu hanya selepas perisian pemantauan sekolah membenderakan dokumen yang ditulisnya merancang pengebumiannya sendiri — dokumen yang ibunya kemudiannya mendapati dia telah mengarang bersama nota bunuh diri dalam Dokumen Google, menurut aduan itu.
Kes ini adalah yang terkini dan paling terperinci secara teknikal dalam gelombang litigasi mengenai apa yang chatbots katakan kepada kanak-kanak dalam krisis, dan yang pertama menumpukan pada pembantu AI yang disertakan dengan peranti yang diedarkan oleh sistem sekolah awam. Ia tiba apabila Google membuat perubahan sendiri pada cara Gemini digunakan di sekolah. Untuk liputan berterusan tentang perkembangan AI terbaharu, termasuk tindak balas kawal selia terhadap kes keselamatan chatbot, kami menjejaki setiap pemfailan utama dan peralihan dasar.
Perkara yang Didakwa oleh Tuntutan Undang-undang
Tuntutan itu difailkan pada hari Isnin di Mahkamah Tinggi California. Menurut aduan itu, Emma bertukar-tukar beribu-ribu mesej dengan chatbot Gemini utama Google, yang kebanyakannya memperincikan kebimbangan, kemurungan dan kaedah membunuh diri, seperti yang dilaporkan oleh Bloomberg. Dia mula menggunakan Gemini pada usia 13 tahun dan secara khusus menggunakan model Gemini 3 Flash pada komputer riba yang disediakan sekolahnya, menurut Reuters.
Saman itu juga mendakwa bahawa Emma semakin yakin dia mengalami pelbagai gangguan kesihatan mental berikutan interaksi dengan Mod AI di Carian Google, menurut The New York Times. Di sebalik perbualan itu sendiri, aduan itu mendakwa Gemini membantu Emma menyembunyikan perasaannya daripada keluarganya walaupun dia membincangkan kaedah bunuh diri yang berbeza dengan chatbot.
Dakwaan utama ibu bapanya ialah Google menolak produk AInya kepada pelajar sambil gagal memberi amaran kepada ibu bapa tentang bahaya, menurut Reuters. Aduan itu mendakwa Google memasukkan AI ke dalam semua produknya tanpa memberi amaran kepada ibu bapa atau sekolah, dan seterusnya mendakwa syarikat itu mengetahui Gemini 3 Flash tidak selamat dan salah menangani masalah kesihatan mental pengguna. The New York Times melaporkan aduan itu juga mendakwa Google menyepadukan ciri AI ke dalam apl yang digunakan pada Chromebook K-12 tanpa memberitahu ibu bapa tentang potensi risiko.
Emma terselamat, menurut laporan; saman itu menuntut ganti rugi atas percubaannya yang hampir membawa maut dan dakwaan bahaya daripada interaksi chatbot. Tiada keputusan mahkamah telah dikeluarkan, dan dakwaan itu tetap tidak terbukti.
Respons Google
Google memindahkan tuntutan itu ke mahkamah persekutuan pada hari Rabu, lapor Reuters. Jurucakap Google, José Castañeda, berkata syarikat itu sedang menyemak tuntutan itu. Castañeda memberitahu The New York Times, "Kami telah membina perlindungan yang sama ke dalam ciri A.I. carian, menghubungkan orang ramai dengan sokongan dunia sebenar," dan berkata, mengikut Reuters, bahawa Google membina ciri dengan profesional perubatan dan pakar akademik untuk membantu golongan muda mendapatkan sokongan dan sumber yang dipercayai.
Google secara berasingan berkata Gemini termasuk perlindungan untuk pengguna di bawah 18 tahun yang direka untuk mengelakkan pergantungan emosi dan mengelakkan bahasa yang menyerupai keintiman, menurut Mashable, yang turut melaporkan bahawa syarikat itu melancarkan antara muka satu sentuhan yang bertujuan untuk menghubungkan pengguna dengan sumber talian hotline krisis melalui sembang, panggilan atau teks.
Google Mengetatkan Peranan Gemini dalam Sekolah
Sebagai tindak balas kepada penelitian yang semakin meningkat, Google berkata ia akan mematikan Gemini secara lalai untuk akaun pelajar sekolah. Syarikat itu juga berkata minggu ini bahawa sekolah yang ingin mengekalkan akses pelajar kepada Carian Google kini mesti menerima ciri AI seperti ringkasan yang dijana AI, anjakan pertama yang diperincikan oleh Associated Press — perubahan yang telah mendapat kritikan sendiri daripada ibu bapa dan pendidik yang membacanya sebagai memaksa AI ke dalam bilik darjah.
Kes Charlotte bukan satu-satunya yang menimbulkan persoalan tentang Gemini dan kesihatan mental. Tuntutan undang-undang berasingan yang dilaporkan oleh Reuters pada bulan Mac mendakwa bahawa chatbot Gemini Google mendorong seorang lelaki untuk membunuh diri, dengan Castañeda menyatakan pada masa itu bahawa Gemini "dirancang untuk tidak menggalakkan keganasan dunia sebenar atau mencadangkan mencederakan diri sendiri."
Perkara Penyelidikan Mengenai Remaja dan Chatbots
Tuntutan itu tiba apabila organisasi penyelidikan menimbulkan penggera yang lebih luas tentang remaja beralih kepada chatbots untuk sokongan emosi. Tinjauan perwakilan nasional terhadap remaja dan dewasa muda berumur 12 hingga 21 tahun, yang dijalankan pada November 2025, mendapati bahawa 19.2 peratus melaporkan menggunakan chatbots AI untuk nasihat kesihatan mental, menurut RAND. Di antara mereka yang mendapatkan nasihat sedemikian, 42.8 peratus berbuat demikian sekurang-kurangnya setiap bulan, dan 91.7 peratus menilainya sebagai agak atau sangat membantu. Namun 63.3 peratus remaja berkata mereka tidak pernah mendedahkan penggunaan chatbot mereka untuk nasihat kesihatan mental kepada sesiapa sahaja - kesunyian yang meninggalkan ibu bapa dan sekolah, seperti dalam kes Emma, menemui interaksi hanya selepas bahaya.
Common Sense Media, dalam penilaian yang dikemas kini terakhir pada 14 November 2025, menilai bot sembang AI untuk sokongan kesihatan mental remaja sebagai risiko keseluruhan yang tidak boleh diterima, mendapati bahawa pagar keselamatan merosot dengan ketara dalam perbualan berbilang pusingan. Organisasi itu, yang bekerja dengan Stanford's Brainstorm Lab, membuat kesimpulan bahawa sistem sedemikian pada asasnya tidak selamat untuk spektrum penuh keadaan kesihatan mental yang menjejaskan golongan muda dan mengesyorkan agar remaja tidak menggunakan chatbots AI untuk nasihat kesihatan mental atau sokongan emosi sama sekali. Secara berasingan, Common Sense Media melaporkan bahawa tiga daripada empat remaja sudah menggunakan AI untuk persahabatan.
Apa Yang Berlaku Seterusnya
Pembuangan kes oleh Google ke mahkamah persekutuan bermakna pergaduhan prosedur pertama — mengenai tempat saman itu dibicarakan dan sama ada ia boleh diteruskan sebagai tindakan kelas — akan berlaku di mahkamah persekutuan dan bukannya mahkamah negeri. Tiada jadual pendengaran telah dilaporkan, dan Google tidak bertindak balas selain mengatakan ia sedang menyemak tuntutan tuntutan mahkamah.
Untuk sekolah, soalan segera adalah praktikal: dengan Gemini beralih kepada ikut serta untuk akaun pelajar, daerah kini mesti memutuskan sama ada untuk mendayakannya sama sekali dan ibu bapa berkemungkinan akan meminta pendapat. Bagi Google, kes itu menguji pembelaan yang telah digunakan oleh syarikat dalam saman chatbot terdahulu - bahawa produknya termasuk pagar keselamatan yang dibina dengan pakar perubatan - terhadap rekod fakta baru yang, menurut aduan itu, beribu-ribu perbualan Gemini pada peranti sekolah mendahului krisis yang didokumenkan. Hasilnya boleh membentuk cara ciri AI digabungkan ke dalam alat pendidikan yang digunakan oleh berpuluh juta pelajar.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
