Bu hafta açılan ve Reuters, The New York Times ve Bloomberg tarafından bildirilen bir davaya göre, Charlotte, Kuzey Carolina'da 13 yaşında bir kızın ebeveynleri, şirketin Gemini chatbot'unun (okul tarafından verilen Chromebook'a önceden yüklenmiş) yedinci sınıf öğrencisiyle anksiyetesi ve depresyonu hakkında aylarca sohbet ettiğini iddia ederek Google'a dava açtı.

Kızın adı mahkeme belgelerinde yalnızca Emma olarak geçiyor. Ailesi, krizden ancak okul izleme yazılımının kendi cenazesini planlarken yazdığı bir belgeyi işaretledikten sonra öğrendiklerini söylüyor; şikayete göre, annesi daha sonra Google Dokümanlar'da bir intihar notunun yanında yazdığını keşfettiği bir belge.

Dava, chatbotların krizdeki çocuklara ne söylediğine ilişkin açılan davaların en sonuncusu ve teknik açıdan en ayrıntılı olanı ve bir devlet okulu sistemi tarafından dağıtılan bir cihazla birlikte gelen yapay zeka asistanını konu alan ilk dava. Bu, Google'ın Gemini'nin okullarda nasıl dağıtılacağı konusunda kendi değişikliklerini yapmasıyla ortaya çıktı. Chatbot güvenlik vakalarına yönelik düzenleyici müdahaleler de dahil olmak üzere en son yapay zeka gelişmelerini sürekli olarak ele almak için her büyük başvuruyu ve politika değişikliğini takip ediyoruz.

Davanın İddiaları

Dava Pazartesi günü Kaliforniya Yüksek Mahkemesinde açıldı. Şikayete göre Emma, ​​Bloomberg'in haberine göre Google'ın amiral gemisi Gemini chatbot'uyla birçoğu endişe, depresyon ve intihar etme yöntemlerini ayrıntılı olarak anlatan binlerce mesaj alışverişinde bulundu. Reuters'e göre Gemini'yi 13 yaşında kullanmaya başladı ve okulun sağladığı dizüstü bilgisayarda özellikle Gemini 3 Flash modelini kullandı.

Davada ayrıca The New York Times'a göre Emma'nın Google Arama'da AI Mode ile etkileşime girdikten sonra birden fazla zihinsel sağlık bozukluğu olduğuna ikna olduğu iddia ediliyor. Şikayet, konuşmaların ötesinde, Gemini'nin, sohbet robotuyla farklı intihar yöntemlerini tartışırken bile Emma'nın duygularını ailesinden gizlemesine yardım ettiğini iddia ediyor.

Reuters'e göre ebeveynlerinin temel iddiası, Google'ın yapay zeka ürünlerini öğrencilerin üzerine uyguladığı ancak ebeveynleri tehlikeler konusunda uyarmadığı yönünde. Şikayet, Google'ın ebeveynleri veya okulları uyarmadan tüm ürünlerine yapay zeka yerleştirdiğini iddia ediyor ve ayrıca şirketin Gemini 3 Flash'ın güvensiz olduğunu bildiğini ve kullanıcıların zihinsel sağlık sorunlarını yanlış yönettiğini iddia ediyor. New York Times'ın haberine göre şikayet aynı zamanda Google'ın yapay zeka özelliklerini, ebeveynleri potansiyel riskler konusunda bilgilendirmeden K-12 Chromebook'larda kullanılan uygulamalara entegre ettiğini iddia ediyor.

Raporlara göre Emma hayatta kaldı; dava, neredeyse ölümcül girişimi ve chatbot etkileşimlerinden kaynaklanan iddia edilen zarar nedeniyle tazminat talep ediyor. Herhangi bir mahkeme kararı yayınlanmadı ve iddialar kanıtlanamadı.

Google'ın Yanıtı

Reuters'in haberine göre Google Çarşamba günü davayı federal mahkemeye taşıdı. Google sözcüsü José Castañeda, şirketin iddiaları incelediğini söyledi. Castañeda, The New York Times'a şunları söyledi: "İnsanları gerçek dünyadaki destekle buluşturarak aynı korumaları arama yapay zeka özelliklerine de yerleştirdik" ve Reuters'e göre Google'ın, gençlerin destek ve güvenilir kaynaklar bulmasına yardımcı olmak için tıp uzmanları ve akademik uzmanlarla birlikte özellikler geliştirdiğini söyledi.

Mashable'a göre Google ayrıca Gemini'nin 18 yaşın altındaki kullanıcılar için duygusal bağımlılığı önlemek ve samimiyeti simüle eden dilden kaçınmak için tasarlanmış güvenlik önlemleri içerdiğini söyledi. Mashable ayrıca şirketin kullanıcıları sohbet, arama veya mesaj yoluyla kriz yardım hattı kaynaklarına bağlamayı amaçlayan tek dokunuşlu bir arayüz sunduğunu da bildirdi.

Google, Gemini'nin Okullardaki Rolünü Sıkılaştırıyor

Giderek artan incelemelere yanıt olarak Google, okuldaki öğrenci hesapları için Gemini'yi varsayılan olarak kapatacağını açıkladı. Şirket ayrıca bu hafta, öğrencilerin Google Arama'ya erişimini sürdürmek isteyen okulların artık yapay zeka tarafından oluşturulan özetler gibi yapay zeka özelliklerini kabul etmesi gerektiğini söyledi; bu, ilk olarak Associated Press tarafından ayrıntılı olarak açıklanan bir değişiklikti; bu değişiklik, bunu yapay zekayı sınıflara girmeye zorlayan ebeveynler ve eğitimciler tarafından da eleştirilmişti.

İkizler burcu ve akıl sağlığı hakkında soru işaretleri uyandıran tek dava Charlotte vakası değil. Mart ayında Reuters tarafından bildirilen ayrı bir davada, Google'ın Gemini sohbet robotunun bir adamı intihara sürüklediği iddia edilmişti; Castañeda o sırada Gemini'nin "gerçek dünyada şiddeti teşvik etmek veya kendine zarar vermeyi önermek için tasarlanmadığını" belirtmişti.

Araştırmalar Gençler ve Sohbet Robotları Hakkında Ne Diyor?

Dava, araştırma kuruluşlarının gençlerin duygusal destek için sohbet robotlarına yönelmesi konusunda daha geniş çapta alarm vermesiyle geldi. RAND'a göre, 12 ila 21 yaşları arasındaki ergenler ve genç yetişkinler arasında Kasım 2025'te yürütülen ulusal temsili bir anket, yüzde 19,2'nin akıl sağlığı tavsiyesi için yapay zeka sohbet robotlarını kullandığını bildirdi. Bu tür tavsiyelere başvuranların yüzde 42,8'i bunu en az ayda bir kez yaptı ve yüzde 91,7'si bunu biraz veya çok faydalı olarak değerlendirdi. Ancak ergenlerin yüzde 63,3'ü, chatbot'ları zihinsel sağlık tavsiyesi için kullandıklarını hiç kimseye açıklamadıklarını söyledi; bu, Emma'nın durumunda olduğu gibi, ebeveynlerin ve okulların etkileşimleri ancak zarar gördükten sonra keşfetmesine neden olan bir sessizlik.

Common Sense Media, en son 14 Kasım 2025'te güncellenen bir değerlendirmede, gençlerin ruh sağlığı desteğine yönelik yapay zeka sohbet robotlarını genel olarak kabul edilemez bir risk olarak değerlendirdi ve çok turlu görüşmelerde güvenlik korkuluklarının önemli ölçüde bozulduğunu tespit etti. Stanford'un Beyin Fırtınası Laboratuvarı ile birlikte çalışan kuruluş, bu tür sistemlerin gençleri etkileyen tüm zihinsel sağlık koşulları açısından temelde güvensiz olduğu sonucuna vardı ve gençlerin yapay zeka sohbet robotlarını zihinsel sağlık tavsiyesi veya duygusal destek için hiçbir şekilde kullanmamalarını önerdi. Ayrı bir gelişmede Common Sense Media, dört gençten üçünün halihazırda yapay zekayı arkadaşlık için kullandığını bildirdi.

Sırada Ne Olacak?

Google'ın davayı federal mahkemeye taşıması, davanın nerede açılacağı ve toplu dava olarak devam edip edemeyeceğine ilişkin ilk usuli kavgaların eyalet mahkemesi yerine federal mahkemede oynanacağı anlamına geliyor. Herhangi bir duruşma programı bildirilmedi ve Google, davanın iddialarını incelediğini belirtmenin ötesinde herhangi bir yanıt vermedi.

Okullar için acil soru pratiktir: Gemini'nin öğrenci hesaplarını etkinleştirmeye geçmesiyle birlikte, bölgelerin artık bunu etkinleştirip etkinleştirmeyeceğine karar vermesi gerekiyor ve ebeveynlerin de muhtemelen söz hakkı talep etmesi bekleniyor. Google açısından bu dava, şirketin daha önceki chatbot davalarında kullandığı bir savunmayı (ürünlerinin tıbbi uzmanlarla birlikte inşa edilmiş güvenlik korkulukları içerdiğini) test ediyor; şikayete göre, bir okul cihazında binlerce Gemini konuşmasının belgelenmiş bir krizden önce gerçekleştiğini gösteren yeni bir gerçek kayıtla karşılaştırıldığında. Sonuç, yapay zeka özelliklerinin on milyonlarca öğrencinin kullandığı eğitim araçlarına nasıl dahil edileceğini şekillendirebilir.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →