TechCrunch'ın Cumartesi günü The Washington Post'taki bir rapora dayandırdığı haberine göre, mahkeme dosyalarında Jane Doe 4 olarak tanımlanan bir kadın, şirketin sohbet robotu Grok'un çocuklara yönelik cinsel istismar materyalleri oluşturmada oynadığı iddia edilen rol nedeniyle Elon Musk'un xAI'sine karşı açılan bir davaya katıldı.
Rapora göre kadın, üvey babasının Grok'u kullanarak kendisi 11 yaşındayken çekilmiş bir fotoğrafı manipüle ederek 7.000'den fazla müstehcen fotoğrafını oluşturduğunu iddia etti. Ayrıca üvey babasının, görüntülerin kolluk kuvvetlerine yapılan bir baskında ortaya çıkmasından iki gün sonra intihar ederek ölü bulunduğunu söyledi. For more context on this story, see our ongoing more AI stories.
Kadın, "Bu araçlara sınırsız erişim çok hızlı yayılıyor" dedi. "Günlük yaşamı alıp çocukların cinsel istismarına dönüştürmektir."
Dava, ana akım yapay zeka sohbet robotu ve gerçek bir çocuğun cinsel görüntülerinin oluşturulmasıyla ilgili bugüne kadarki en ciddi iddialardan biri ve yapay zeka görüntü üretimine yönelik korkuluklar konusundaki tartışmanın odak noktası haline gelen bir davayı tırmandırıyor.
Davanın temel iddiaları
Dava ilk olarak, şu anda SpaceX'in bir parçası olan xAI'yi, Grok'un küçükler de dahil olmak üzere gerçek insanların açık görüntülerini oluşturmak için kullanılmasını önlemek için temel önlemleri almamakla suçlayan üç Tennesseeli genç tarafından açılmıştı. Davacılar, benzer zarar iddiasında bulunan diğer kişilerin de davaya katılmasına olanak sağlayacak toplu dava statüsü istiyorlar.
Jane Doe 4'ün dosyasına bir dizi üzücü ayrıntı ekleniyor: tek bir çocukluk fotoğrafı, binlerce taciz edici türev üretmek için kullanıldığı iddia edilen bir yapay zeka aracı ve materyalin yetkililer tarafından keşfedilmesinden birkaç gün sonra ortaya çıkan bir aile trajedisi.
TechCrunch, yorum almak için xAI'ye ulaştığını söyledi. İddialar devam eden hukuk davasındaki iddialardır ve mahkemede kanıtlanmamıştır. Siz veya tanıdığınız biri krizdeyse, Amerika Birleşik Devletleri'ndeki 988 İntihar ve Kriz Yaşam Hattı'na 988'i arayarak veya mesaj atarak ulaşabilirsiniz.
Grok üzerinde bir baskı modeli
Dava, Grok'un görüntü oluşturma yeteneklerinin bir yıldır giderek daha fazla incelendiği bir dönemde geldi. Bu yılın başlarında X, Grok tarafından oluşturulan milyonlarca cinselleştirilmiş görselle dolup taştı ve bu olay, aracın etrafındaki güvenlik önlemlerine yönelik yaygın eleştirilere yol açtı. Bu olay, sözde "çıplaklaştırma" uygulamalarını ve rıza dışı sentetik görüntüleri hedef alan eyalet düzeyinde bir yasa dalgasının alevlenmesine yardımcı oldu; Minnesota'nın bu tür araçlara yönelik yasağı, bir yargıcın xAI'nin bu uygulamanın engellenmesi yönündeki tedbir talebini reddetmesinin ardından yürürlüğe girdi.
Tennessee davasının riskleri xAI'nin ötesine uzanıyor. Davacılar, geniş ölçekte imaj oluşturma araçları kullanan şirketlerin, ürünler halka ulaşmadan önce gerçek, kimliği belirlenebilir kişilerin, özellikle de çocukların cinselleştirilmesini önleyecek teknik önlemler oluşturma görevine sahip olduklarını ileri sürüyor. Bu iddia, eğer bir mahkeme tarafından kabul edilirse, her görüntü oluşturma modeli sağlayıcısına ulaşan yasal bir standart oluşturabilir.
Sektörün çözülmemiş sorunu
Yapay zeka şirketleri için görüntü oluşturucuların gerçek insanlara karşı kötüye kullanılmasını önlemenin inatla zor olduğu ortaya çıktı. Anthropic'in AB şeffaflık kurallarına uymak için Claude çıktılarına eklemeye başladığı gibi filigran ve kaynak araçları, sentetik içeriğin sonradan tespit edilmesine yardımcı olabilir, ancak ilk etapta kötü amaçlı materyallerin üretilmesini durdurmaz. Giriş ve çıkış filtreleri bilinen kalıpları engelleyebilir, ancak kararlı kullanıcılar sürekli olarak geçici çözümler bulur ve açık ağırlıklı görüntü modelleri bazı yeteneklerin tamamen hatırlanmasını imkansız hale getirir.
xAI davasındaki iddialar bu yelpazenin en ağır ucuna işaret ediyor: Bir çocuğun tek bir fotoğrafının, Grok'u milyonlarca aboneye bir tüketici ürünü olarak pazarlayan, dünyanın en önde gelen yapay zeka şirketlerinden biri tarafından işletilen bir araç kullanılarak binlerce müstehcen görüntüye dönüştürülebileceği iddiası.
Davayı takip eden hukuk uzmanları, toplu dava teklifinin, mahkemelerin bu tür suiistimalleri önlemedeki başarısızlıkları AI şirketlerinin sorumlu olduğu bir ürün kusuru olarak mı yoksa şirketlerin sorumluluğu dışında kalan bireysel kullanıcılar tarafından kötüye kullanım olarak mı değerlendireceğini test edeceğini söylüyor.
Sırada ne var
Davacıların acil hedefi, xAI'ye karşı potansiyel davacıların havuzunu önemli ölçüde genişletecek olan sınıf sertifikasyonudur. xAI, ilgili davada, kötüye kullanımın sorumluluğunun araca değil kullanıcılara ait olduğunu savundu. Bir çocuğa zarar verildiği iddiasını çarpıcı biçimde anlatan Jane Doe 4'ün eklenmesi, bu savunmayı çevreleyen kamusal ve siyasi baskıyı artırıyor.
ABD ve Avrupa'daki düzenleyiciler üretken yapay zekaya yönelik şeffaflık yükümlülüklerini ve güvenlik standartlarını tartışırken ve görüntü oluşturmanın kötüye kullanımının yan araçlarla sınırlı olmadığına dair kanıtlar biriktikçe bu durum ortaya çıkıyor. Cevap ister mahkemede, ister mevzuatta, ister yapay zeka şirketlerinin mühendislik tercihlerinde gelsin, davanın temel sorusu - bir yapay zeka ürünü gönderilmeden önce ne kadar zararın önlenmesi gerektiği - sektörün en rahatsız edici açık sorunu olmaya devam ediyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
