xAI menghadapi tindakan kelas yang dicadangkan yang buat pertama kalinya menuduh syarikat itu melatih model Groknya mengenai bahan penderaan seksual kanak-kanak, kedua-dua sebenar dan dijana AI. Aduan itu, yang difailkan pada hari Rabu dan dilaporkan oleh Ars Technica, menuntut pemusnahan yang diarahkan oleh mahkamah terhadap mana-mana bahan sedemikian yang disimpan pada pelayan syarikat dan perubahan menyeluruh terhadap cara Grok mengendalikan kandungan seksual.
Tuduhan itu kekal sebagai tuntutan tidak terbukti yang dibuat dalam litigasi sivil. X, yang memiliki xAI, tidak menjawab permintaan Ars Technica untuk mengulas mengenai pemfailan itu. For more context on this story, see our ongoing AI trends.
Plaintif dan Tuduhan
Plaintif, yang dikenal pasti sebagai Jane Doe, mendakwa dalam aduan itu bahawa dia adalah mangsa usia prasekolah pada awal 2000-an apabila imej penderaannya dicipta dan dijual dalam talian. Imej tersebut telah lama dikatalogkan dalam senarai cincang yang diselenggara oleh National Center for Missing and Exploited Children (NCMEC) dan Canadian Centre for Child Protection (CCCP), organisasi yang menjejaki bahan penderaan yang diketahui untuk membolehkan pengesanan dan penyingkirannya.
Menurut aduan itu, CCCP memberitahu Doe bahawa ia telah mengenal pasti bahan penyalahgunaan yang dijana AI yang menggambarkannya di platform xAI. Peguamnya menyatakan dalam kenyataan akhbar bahawa bahan yang sepadan dengan entri senarai cincang NCMECnya "adalah sebahagian daripada set data xAI yang digunakan untuk membina imej Grok dan keupayaan menjana video." Aduan itu selanjutnya mendakwa bahawa mesej yang ditemui di forum dalam talian menunjukkan pesalah membincangkan penciptaan imej penderaan yang dijana oleh AI bagi Doe dan mangsa lain yang diketahui daripada bahan penyalahgunaan warisan.
Teori Perundangan: Data Latihan, Bukan Sekadar Output
Apa yang membezakan pemfailan ini daripada litigasi terdahulu terhadap xAI ialah tumpuannya pada model itu sendiri dan bukannya pada perkara yang dijana oleh pengguna individu. Aduan itu berhujah bahawa kerana syarat perkhidmatan Grok menganggap siaran awam pada X dan keluaran Grok sendiri sebagai data latihan secara lalai, apa-apa yang disiarkan secara terbuka terus ke saluran paip yang digunakan untuk melatih dan menambah baik model.
Pemfailan itu mengakui bahawa xAI menapis kandungan ganas daripada data latihannya, tetapi berpendapat syarat syarikat tidak menentukan sama ada bahan penderaan seksual kanak-kanak, imejan intim tanpa persetujuan atau kandungan dewasa lain termasuk dalam kategori yang dikecualikan. Ia juga berpendapat bahawa walaupun imej yang menyinggung dialih keluar, pengaruh contoh latihan pada model yang sudah terlatih secara teknikalnya sukar untuk dialih keluar sepenuhnya — dan xAI tidak mendakwa telah berbuat demikian secara terbuka.
Perkara yang Dicari oleh Tuntutan Undang-undang
Jika kelas yang dicadangkan diperakui, ia akan mewakili setiap orang yang imej zaman kanak-kanaknya didakwa digunakan untuk menjana bahan penyalahgunaan dengan Grok. Saman itu menggunakan undang-undang pornografi kanak-kanak persekutuan dan Undang-undang Masha, yang memberikan hak kepada mangsa penyalahgunaan bahan untuk menyaman pengeluaran, pemilikan dan pengedarannya.
"Ketiga-tiganya adalah jenayah, dan xAI melakukan ketiga-tiganya," Margaret E. Mabie, salah seorang peguam Doe, berkata dalam siaran akhbar yang dipetik oleh Ars Technica.
Di sebalik ganti rugi kewangan, Doe meminta mahkamah memerintahkan xAI untuk memusnahkan semua bahan penyalahgunaan janaan Grok yang mungkin disimpan dan digunakan untuk latihan, dan untuk menghalang model daripada menjana output seksual dalam apa jua bentuk — permintaan yang akan merampas bukan sahaja penyalahgunaan imejan tetapi juga imejan intim tanpa persetujuan dan kandungan dewasa yang Elon Musk telah promosikan secara terbuka sebagai ciri.
"Doe telah hidup selama hampir dua dekad mengetahui bahawa imej perkara paling buruk yang pernah berlaku ke atasnya beredar di kalangan pemangsa dalam talian, dan ia boleh muncul semula pada bila-bila masa," kata Sarah London, seorang lagi peguam Doe, dalam siaran akhbar. "xAI mesti bertanggungjawab untuk melatih modelnya secara sedar mengenai imej penderaan ngeri yang dialaminya."
Pengiraan Undang-undang yang Memuncak
Pemfailan itu adalah bahagian terbaharu dalam pertikaian undang-undang yang semakin meluas mengenai keupayaan imej dan video Grok. Dalam kes berasingan di Tennessee, seorang wanita yang dikenal pasti sebagai Jane Doe 4 menyertai tuntutan mahkamah yang mendakwa bahawa satu gambar zaman kanak-kanak digunakan dengan Grok untuk menjana beribu-ribu imej eksplisit dirinya — dakwaan AI Buzz Wire diliputi awal bulan ini. Pengawal selia dan mahkamah sedang meneliti sejauh mana masalah berlanjutan, dan beberapa pengguna Grok telah ditangkap atas bahan yang mereka hasilkan.
Pada masa yang sama, xAI telah melakukan kesalahan terhadap penggunanya. Politico melaporkan minggu ini bahawa syarikat itu menyaman beberapa penggunanya sendiri walaupun ketika tuntutan undang-undang mangsa meningkat, strategi yang menguji sama ada platform atau orang yang mendorong mereka memikul tanggungjawab undang-undang untuk apa yang dihasilkan oleh model AI.
Aduan baharu meletakkan soalan data latihan di tengah-tengah perjuangan itu. Jika mahkamah menerima hujah bahawa set latihan model boleh mewujudkan liabiliti untuk perkara yang membolehkan pengguna hasilkan, implikasinya akan menjangkau jauh melebihi xAI — menyentuh setiap imej generatif dan syarikat video yang syaratnya memasukkan kandungan pengguna kembali ke dalam latihan. Buat masa ini, dakwaan itu hanyalah: dakwaan dalam pemfailan xAI masih belum dijawab di mahkamah.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
