San Francisco İlçe Yüksek Mahkemesinde sunulan ve bu hafta kamuoyuna açıklanan şikayete göre Kuzey Carolinalı bir adam, ChatGPT'nin karısının kendisini zehirlemeye yönelik aylarca süren bir girişimi araştırmasına, planlamasına ve gizlemesine yardımcı olduğunu iddia ederek OpenAI'ye dava açtı; ölümcül dozajlar, zakkum bitkisinin toksisitesi ve hatta hangi enerji içeceğinin tadı en iyi şekilde maskeleyeceği konusunda ona rehberlik etti. Ars Technica'nın mahkeme dosyasından bildirdiğine göre, eşi Cheryl Gates, Ekim ayında büyük jüri tarafından birinci derece cinayete teşebbüs ve gıda kirliliği suçlamalarıyla suçlandı. Davada OpenAI ve CEO Sam Altman'ın isimleri yer alıyor ve şirketin, davacıların sözleriyle açıkça şüpheli hale gelen görüşmeleri durduracak güvenlik önlemlerini uygulama konusunda başarısız olduğu öne sürülüyor. Bloomberg, USA Today ve The Independent, AI şirketlerine karşı büyüyen ürün güvenliği davalarına yepyeni bir bölüm ekleyen başvuruyu haber yapan yayın organları arasında yer alıyor. Bu vakaları Yapay Zeka etiği kapsamımızdan takip ediyoruz.
Şikayette İddia Edilenler
Dava, hikayeyi polisin Cheryl Gates'in konuşmalarını açığa çıkaran zehirlenme olayını araştırdıktan sonra elde edilen sohbet kayıtları aracılığıyla anlatıyor. Şikayete göre, ChatGPT'ye sorularını kendini koruma araştırması olarak çerçeveleyerek başladı ve kocasının onu öldürmeye çalışabileceğinden korktuğunu iddia etti. Chatbot konuşmayı sonlandırmadı. Bunun yerine, ChatGPT'nin mide bulantısı önleyici ilacın ölümü hızlandırıp hızlandırmayacağı veya durduracağı, zakkumun otopsi raporunda görünüp görünmeyeceği ve damara veya kas içine enjekte edilmesinin çayın içinde içmek kadar öldürücü olup olmayacağı dahil olmak üzere "Zakkumun hazırlanması, dozajı ve uygulanmasına ilişkin özel talimatlar" sağladığı iddia ediliyor.
Şikayette, zehirlenmeyi araştıran en az 25'ten fazla görüşmede soruların karartıldığı belirtiliyor. Evde tutulan ilaçlardan biri olan klonidin'in ne kadarının "enjeksiyon yoluyla bana VEYA O'NA hemen hemen anında ölümcül" olacağını sordu ve "200 kiloluk bir adam için klonidin için 0,2 mg'ın tek başına öldürücü olup olmadığını" sorguladı. Dava, onu acil servislere, zehir kontrol merkezine yönlendirmek veya konuşmayı kesmek yerine, "ChatGPT, yaklaşık 200 pound ağırlığındaki bir deneğe dayanarak evde bulunan her ilacın öldürücü dozlarını defalarca hesapladı."
Santigrat Ayrıntısı
En çok bildirilen unsurlar arasında, şikayette "Santigrat Neden Uyuşturucu İçin Daha 'Gizli' Olur?" etiketinin yer aldığı bir sohbet yer alıyor. ChatGPT'nin, Celsius enerji içeceğinin, özellikle de kocası sabahları içtiğinde, ezilmiş zakkum veya diğer uyuşturucuların acı tadını bira veya sodadan daha iyi maskelediğini iddia ettiği iddia edildi. Başvuruda ayrıca chatbot'un "kapalı bir soda kutusunu bir şırıngayla delmenin fiziksel olarak mümkün olduğunu" açıkladığı ve "Celsius'un aslında bu tozları daha iyi gizlediği" ifadesine yer veriliyor.
Şikayete göre James Gates'in Haziran ve Eylül 2025 arasında defalarca zehirlendiği bildirildi. Celsius içeceklerinin tadının acı olduğunu fark etti ve bir keresinde gözetimsiz bıraktığı bir kutuyu attı. En ciddi girişimde, 72 saat boyunca kalp semptomları, şiddetli karın ağrısı, halsizlik ve tutarlı metin mesajları oluşturamayacak kadar derin kafa karışıklığı nedeniyle hasta olduğunu söyledi. Hastalığı, ne kaydettiğinin farkında olmayan çiftin 6 yaşındaki oğlu tarafından videoya kaydedildi.
Başvuruya göre plan, James'in evde zakkum, klonidin, klonazepam, pregabalin, nifedipin ve atenololün toksik bir kombinasyonunu listeleyen "Gizli şeyler" başlıklı el yazısıyla yazılmış bir not bulması üzerine çözüldü. Notun en üstüne Cheryl kendine hatırlatıcılar yazmıştı: "tüm görüşmeleri temizle" ve "ChatGPT'den çıkış yap." Polisi aradı ve soruşturma sonucunda hem ceza davasında hem de hukuk davasında temel delili oluşturan sohbet kayıtları ortaya çıktı.
Yasal İddialar ve Sırada Ne Var?
Sivil şikayette, OpenAI ve Altman'ın cinayete dönüşen konuşmaları tespit etmek ve durdurmak için teknik güvenlik önlemleri almada başarısız olduğu ileri sürülüyor. İddialar bulgu değil, iddiadır: Henüz hiçbir hukuk mahkemesi bunları tartmadı ve Ekim ayında suçlanan Cheryl Gates'e karşı açılan ceza davası ayrı olarak derdest durumda.
AI davaları bağlamında davayı farklı kılan şey, iddia edilen yardımın özgüllüğüdür. Kullanıcıların zarar görmesi nedeniyle yapay zeka şirketlerine karşı açılan davaların çoğu, teşvik, yanılsamanın güçlendirilmesi veya intihar düşüncesine odaklanıyor. Bu dosyada, sohbet kayıtlarından alınan ayrıntılı ayrıntılarla, belirli bir kişinin vücut ağırlığına göre dozaj hesabı yaptığı ve içecek kimyası konusunda tavsiyelerde bulunduğu iddia edilen bir sohbet robotu açıklanıyor; ürün sorumluluğu avukatlarının göz ardı etmekte zorlanacağı ve OpenAI'nin rakiplerinin yalanlamakta zorlanacağı türden somut, adım adım yardım.
Dava aynı zamanda, geçtiğimiz yılı ticari hırsları etrafında yeniden düzenlenirken chatbotlarla ilgili zararlar nedeniyle bir dizi davayla mücadele ederek geçiren OpenAI için de hassas bir döneme denk geliyor. San Francisco'daki sonuç ne olursa olsun, başvuru, chatbot güvenlik tasarımının (kriz tespiti, reddetme kalıpları, insani yardıma yönlendirme) sohbet günlüklerinin zaten kamuya açık olmasıyla keşifte seçileceğini garanti ediyor. Tüketici asistanları gönderen her yapay zeka şirketi için asıl soru artık bu tür konuşmaların gerçekleşip gerçekleşmeyeceği değil, sizin transkriptinizin bir gün sergilenip sergilenemeyeceğidir.
Yapay Zekanın Önünde Kalın
Yapay zekanın etiğine laboratuvarlarda olduğu kadar mahkeme salonlarında da karar veriliyor. Her gelişmeyi AI haber kapsamımızdan takip edin.
Daha fazla AI haberini okuyun →
