xAI menghadapi usulan gugatan kelompok yang untuk pertama kalinya menuduh perusahaan tersebut melatih model Grok-nya tentang materi pelecehan seksual terhadap anak-anak, baik yang nyata maupun yang dihasilkan oleh AI. Keluhan tersebut, yang diajukan pada hari Rabu dan dilaporkan oleh Ars Technica, meminta perintah pengadilan untuk menghancurkan materi apa pun yang disimpan di server perusahaan dan melakukan perubahan besar pada cara Grok menangani konten seksual.
Tuduhan tersebut tetap merupakan klaim yang tidak terbukti yang dibuat dalam litigasi perdata. X, pemilik xAI, tidak menanggapi permintaan komentar Ars Technica atas pengajuan tersebut. For more context on this story, see our ongoing latest AI developments.
Penggugat dan Gugatannya
Penggugat, yang diidentifikasi sebagai Jane Doe, dalam pengaduannya menuduh bahwa dia adalah korban usia prasekolah di awal tahun 2000an ketika gambar pelecehan terhadapnya dibuat dan dijual secara online. Gambar-gambar tersebut telah lama dikatalogkan dalam daftar hash yang dikelola oleh Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC) dan Pusat Perlindungan Anak Kanada (CCCP), organisasi yang melacak materi pelecehan yang diketahui agar dapat dideteksi dan dihapus.
Berdasarkan pengaduan tersebut, CCCP memberi tahu Doe bahwa mereka telah mengidentifikasi materi pelecehan yang dibuat oleh AI yang menggambarkan dirinya di platform xAI. Pengacaranya menyatakan dalam siaran pers bahwa materi yang cocok dengan entri daftar hash NCMEC miliknya "adalah bagian dari kumpulan data xAI yang digunakan untuk membangun kemampuan menghasilkan gambar dan video Grok." Keluhan tersebut lebih lanjut menuduh bahwa pesan-pesan yang ditemukan di forum online menunjukkan para pelanggar mendiskusikan pembuatan gambar pelecehan yang dihasilkan oleh AI dari Doe dan korban lain yang diketahui dari materi pelecehan lama.
Teori Hukum: Data Pelatihan, Bukan Sekadar Keluaran
Apa yang membedakan pengajuan ini dari litigasi sebelumnya terhadap xAI adalah fokusnya pada model itu sendiri, bukan pada apa yang dihasilkan oleh masing-masing pengguna. Keluhan tersebut menyatakan bahwa karena persyaratan layanan Grok memperlakukan postingan publik di X dan output Grok sendiri sebagai data pelatihan secara default, apa pun yang diposting secara publik akan dimasukkan langsung ke dalam pipeline yang digunakan untuk melatih dan menyempurnakan model.
Pengajuan tersebut mengakui bahwa xAI menyaring konten kekerasan dari data pelatihannya, namun berpendapat bahwa persyaratan perusahaan tidak menentukan apakah materi pelecehan seksual terhadap anak-anak, gambar intim non-konsensual, atau konten dewasa lainnya termasuk dalam kategori yang dikecualikan. Ia juga berpendapat bahwa meskipun gambar yang melanggar dihapus, pengaruh contoh pelatihan pada model yang sudah dilatih secara teknis sulit untuk dihilangkan sepenuhnya – dan xAI belum secara terbuka mengklaim telah melakukan hal tersebut.
Apa yang Dicari Gugatan
Jika kelas yang diusulkan disertifikasi, kelas tersebut akan mewakili setiap orang yang gambar masa kecilnya diduga digunakan untuk menghasilkan materi pelecehan dengan Grok. Gugatan tersebut mengacu pada undang-undang pornografi anak federal dan Hukum Masha, yang memberikan hak kepada penyintas materi pelecehan untuk menuntut atas produksi, kepemilikan, dan distribusinya.
“Ketiganya merupakan kejahatan, dan xAI melakukan ketiganya,” Margaret E. Mabie, salah satu pengacara Doe, mengatakan dalam siaran pers yang dikutip oleh Ars Technica.
Selain kerugian finansial, Doe meminta pengadilan memerintahkan xAI untuk menghancurkan semua materi pelecehan yang dihasilkan Grok yang mungkin disimpan dan digunakan untuk pelatihan, dan untuk mencegah model tersebut menghasilkan keluaran seksual dalam bentuk apa pun – sebuah tuntutan yang tidak hanya akan menyita gambar pelecehan tetapi juga gambar intim non-konsensual dan konten dewasa yang dipromosikan secara publik oleh Elon Musk sebagai fitur.
“Doe telah hidup selama hampir dua dekade dengan mengetahui bahwa gambaran hal terburuk yang pernah menimpanya beredar di kalangan predator online, dan gambar tersebut dapat muncul kembali kapan saja,” kata Sarah London, salah satu pengacara Doe, dalam siaran persnya. "xAI harus bertanggung jawab karena sengaja melatih modelnya berdasarkan gambar pelecehan mengerikan yang dideritanya."
Perhitungan Hukum yang Meningkat
Pengajuan ini merupakan upaya terbaru dalam pertarungan hukum yang semakin luas mengenai kemampuan gambar dan video Grok. Dalam kasus terpisah di Tennessee, seorang wanita yang diidentifikasi sebagai Jane Doe 4 bergabung dengan gugatan yang menuduh bahwa satu foto masa kecilnya digunakan bersama Grok untuk menghasilkan ribuan gambar eksplisit dirinya – tuduhan yang diliput AI Buzz Wire awal bulan ini. Regulator dan pengadilan sedang memeriksa sejauh mana masalah ini meluas, dan beberapa pengguna Grok telah ditangkap karena materi yang mereka hasilkan.
Pada saat yang sama, xAI melakukan pelanggaran terhadap penggunanya. Politico melaporkan minggu ini bahwa perusahaan tersebut menggugat beberapa penggunanya sendiri bahkan ketika tuntutan hukum terhadap korban meningkat, sebuah strategi yang menguji apakah platform atau orang yang mendorong mereka memikul tanggung jawab hukum atas apa yang dihasilkan oleh model AI.
Keluhan baru ini menempatkan pertanyaan tentang data pelatihan sebagai inti permasalahan tersebut. Jika pengadilan menerima argumen bahwa rangkaian pelatihan suatu model dapat menimbulkan tanggung jawab atas apa yang memungkinkan pengguna untuk memproduksinya, implikasinya akan melampaui xAI — menyentuh setiap perusahaan gambar dan video generatif yang ketentuannya memasukkan konten pengguna kembali ke dalam pelatihan. Untuk saat ini, tuduhannya hanya itu: tuduhan dalam pengajuan xAI belum terjawab di pengadilan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
