xAI, ilk kez şirketi Grok modellerini hem gerçek hem de yapay zeka tarafından oluşturulan çocuklara yönelik cinsel istismar materyalleri konusunda eğitmekle suçlayan toplu bir dava önerisiyle karşı karşıya. Çarşamba günü sunulan ve Ars Technica tarafından bildirilen şikayette, şirketin sunucularında depolanan bu tür materyallerin mahkeme kararıyla imha edilmesi ve Grok'un cinsel içerikli içerikleri işleme biçiminde kapsamlı değişiklikler yapılması talep ediliyor.
İddialar hukuk davasında ileri sürülen kanıtlanmamış iddialardır. xAI'nin sahibi olan X, Ars Technica'nın başvuruya ilişkin yorum yapma talebine yanıt vermedi. For more context on this story, see our ongoing AI trends.
Davacı ve İddialar
Kimliği Jane Doe olarak tanımlanan davacı, şikayetinde, tacize ilişkin görüntülerin oluşturulup internette satıldığı 2000'li yılların başında okul öncesi çağındaki bir mağdur olduğunu iddia ediyor. Bu görüntüler, uzun süredir Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi (NCMEC) ve Kanada Çocuk Koruma Merkezi (CCCP) tarafından tutulan karma listelerde kataloglanıyor; bunlar, tespit edilmesini ve kaldırılmasını sağlamak için bilinen istismar materyallerini takip ediyor.
Şikayete göre CCCP, Doe'ye, kendisini xAI platformunda tasvir eden yapay zeka tarafından oluşturulan taciz materyalini tespit ettiğini bildirdi. Avukatları bir basın açıklamasında, NCMEC karma listesi girişleriyle eşleşen materyalin "Grok'un görüntü ve video oluşturma yeteneklerini oluşturmak için kullanılan xAI veri kümesinin bir parçası olduğunu" belirtti. Şikayette ayrıca, çevrimiçi forumlarda bulunan mesajların, suçluların Doe'nun ve eski suiistimal materyallerinin bilinen diğer kurbanlarının yapay zeka tarafından oluşturulan suistimal görüntülerinin oluşturulmasını tartıştıklarını gösterdiği iddia ediliyor.
Hukuk Teorisi: Sadece Çıktılar Değil, Eğitim Verileri
Bu başvuruyu xAI'ye karşı daha önce açılan davadan ayıran şey, bireysel kullanıcıların ne ürettiğine değil, modelin kendisine odaklanmasıdır. Şikayet, Grok'un hizmet şartlarının X ve Grok'un kendi çıktılarındaki herkese açık gönderileri varsayılan olarak eğitim verileri olarak ele alması nedeniyle, herkese açık olarak yayınlanan her şeyin doğrudan modeli eğitmek ve geliştirmek için kullanılan boru hattına beslendiğini ileri sürüyor.
Başvuruda, xAI'nin şiddet içerikli içeriği eğitim verilerinden filtrelediği kabul ediliyor ancak şirketin şartlarında, çocukların cinsel istismarına yönelik materyalin, rıza dışı mahrem görüntülerin veya diğer yetişkinlere yönelik içeriğin hariç tutulan kategorilere girip girmediğini belirtmediği öne sürülüyor. Ayrıca, rahatsız edici görsellerin kaldırıldığı durumlarda bile, bir eğitim örneğinin önceden eğitilmiş bir model üzerindeki etkisinin teknik olarak tamamen ortadan kaldırılmasının zor olduğunu ve xAI'nin bunu kamuya açık bir şekilde iddia etmediğini savunuyor.
Davanın Aradığı Şey
Önerilen sınıf onaylanırsa, çocukluk görüntülerinin Grok'ta istismar malzemesi oluşturmak için kullanıldığı iddia edilen herkesi temsil edecek. Dava, federal çocuk pornografisi yasalarını ve istismar materyalinden sağ kalanlara bu materyalin üretimi, bulundurulması ve dağıtımı konusunda dava açma hakkı veren Masha Yasası'nı öne sürüyor.
Doe'nun avukatlarından Margaret E. Mabie, Ars Technica'nın aktardığı basın açıklamasında "Bu üçü de suç ve üçünü de xAI yaptı" dedi.
Doe, parasal zararların ötesinde mahkemeden, xAI'nin depoladığı ve eğitim için kullanabileceği, Grok tarafından üretilen tüm istismar materyalini imha etmesini ve modelin her türlü cinselleştirilmiş çıktı üretmesini engellemesini talep ediyor; bu talep, yalnızca kötüye kullanım görüntülerinin yanı sıra, Elon Musk'un halka açık olarak tanıttığı rıza dışı mahrem görüntüler ve yetişkinlere yönelik içeriği de yasaklayacak.
Doe'nun avukatlarından bir diğeri olan Sarah London, basın açıklamasında "Doe, başına gelen en kötü şeyin görüntülerinin internette yırtıcılar arasında dolaştığını ve her an yeniden ortaya çıkabileceğini bilerek neredeyse yirmi yıldır yaşıyor" dedi. "xAI, modellerini maruz kaldığı korkunç istismarın görüntüleri konusunda bilerek eğitmekten sorumlu tutulmalıdır."
Artan Yasal Hesaplaşma
Başvuru, Grok'un görüntü ve video yetenekleri konusunda giderek genişleyen hukuki mücadelenin son cephesi. Tennessee'deki ayrı bir vakada, Jane Doe 4 olarak tanımlanan bir kadın, Grok'la birlikte tek bir çocukluk fotoğrafının kendisinin binlerce müstehcen görüntüsünü oluşturmak için kullanıldığı iddiasıyla bir davaya katıldı; bu iddialar AI Buzz Wire'ın bu ayın başlarında ele aldığı iddialardı. Düzenleyiciler ve mahkemeler sorunların nereye kadar uzandığını inceliyor ve bazı Grok kullanıcıları ürettikleri materyaller nedeniyle tutuklandı.
Aynı zamanda xAI, kullanıcılarına karşı saldırıya geçti. Politico bu hafta şirketin, mağdur davaları artarken bile kendi kullanıcılarından bazılarını dava ettiğini bildirdi; bu strateji, platformların veya onları harekete geçiren kişilerin bir yapay zeka modelinin ürettiği şeyin yasal sorumluluğunu taşıyıp taşımadığını test ediyor.
Yeni şikayet, eğitim verileri sorununu bu mücadelenin merkezine koyuyor. Mahkemeler, bir modelin eğitim setinin, kullanıcıların üretmesine olanak sağladığı şeyler için sorumluluk yaratabileceği iddiasını kabul ederse, bunun sonuçları xAI'nin çok ötesine ulaşacak; şartları kullanıcı içeriğini eğitime geri besleyen her üretken görüntü ve video şirketine dokunacaktır. Şimdilik iddialar sadece şu şekilde: xAI dosyasındaki iddialar henüz mahkemede yanıtlanmadı.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
