Wong wadon sing diidentifikasi ing filing pengadilan minangka Jane Doe 4 wis gabung karo tuntutan hukum marang xAI Elon Musk babagan peran chatbot perusahaan Grok sing diduga main ing nggawe materi pelecehan seksual anak, TechCrunch lapor ana, nyatakake laporan ing The Washington Post.
Wong wadon kasebut ujar manawa bapak tirine nggunakake Grok kanggo ngapusi foto sing dijupuk nalika umur 11 taun kanggo nggawe luwih saka 7.000 gambar eksplisit dheweke, miturut laporan kasebut. Dheweke uga ujar manawa bapak tirine ditemokake mati amarga bunuh diri rong dina sawise gambar kasebut ditemokake ing serangan penegak hukum. For more context on this story, see our ongoing AI trends.
"Akses tanpa wates kanggo alat kasebut nyebar kanthi cepet," ujare wanita kasebut. "Iki njupuk saben dinten gesang lan ngowahi dadi seksual penyalahgunaan anak."
Kasus kasebut minangka salah sawijining tuduhan sing paling serius nganti saiki nglibatake chatbot AI mainstream lan nggawe citra seksual saka bocah sejati, lan nambah tuntutan hukum sing wis dadi titik fokus ing debat babagan guardrails kanggo generasi gambar AI.
Klaim inti tuntutan hukum
Gugatan kasebut wiwitane diajukake dening telung remaja Tennessee sing nuduh xAI - sing saiki dadi bagean saka SpaceX - gagal nindakake pancegahan dhasar kanggo nyegah Grok digunakake kanggo nggawe gambar nyata wong nyata, kalebu bocah cilik. Para penggugat nggoleki status aksi kelas, sing bakal ngidini wong liya sing ngakoni cilaka sing padha kanggo gabung ing kasus kasebut.
Pengajuan Jane Doe 4 nambahake seperangkat spesifik sing nggegirisi: foto bocah cilik, alat AI sing diduga digunakake kanggo ngasilake ewonan turunan kasar, lan tragedi kulawarga sing kedadeyan ing sawetara dina sawise panemuan materi kasebut dening panguwasa.
TechCrunch ujar manawa tekan xAI kanggo menehi komentar. Tuduhan kasebut minangka tuntutan ing pengadilan sipil sing isih ana lan durung kabukten ing pengadilan. Yen sampeyan utawa wong sing sampeyan kenal lagi ngalami krisis, 988 Bunuh Diri lan Krisis Lifeline ing Amerika Serikat bisa dihubungi kanthi telpon utawa SMS ing 988.
Pola tekanan ing Grok
Tuntutan kasebut ditindakake ing tengah-tengah taun pengawasan babagan kemampuan generasi gambar Grok. Sadurungé taun iki, X dibanjiri mayuta-yuta gambar seksual sing digawe Grok, sawijining episode sing narik kritik sing nyebar babagan perlindungan ing sekitar alat kasebut. Episode kasebut mbantu nyepetake gelombang undang-undang tingkat negara sing ngarahake aplikasi "nudify" lan citra sintetik nonconsensual; Larangan Minnesota kanggo alat kasebut ditrapake sawise hakim nolak panjaluk xAI kanggo prentah kanggo mblokir penegakan kasebut.
Totoan saka kasus Tennessee ngluwihi xAI. Penggugat argue sing perusahaan deploying pribadi gambar-generasi ing ukuran duwe tugas kanggo mbangun pangayoman technical sing nyegah sexualization nyata, wong dikenali - lan utamané anak - sadurunge produk tekan umum. Argumentasi kasebut, yen ditampa dening pengadilan, bisa nggawe standar hukum sing bisa tekan saben panyedhiya model generasi gambar.
Masalah industri sing durung rampung
Kanggo perusahaan AI, nyegah nyalahi panggunaan generator gambar marang wong nyata wis mbuktekake angel banget. Alat watermarking lan provenance - kayata Anthropic wiwit nambah output Claude kanggo tundhuk karo aturan transparan EU - bisa mbantu ngenali isi sintetik sawise kasunyatan, nanging padha ora mungkasi generasi saka materi kasar ing Panggonan pisanan. Filter input lan output bisa mblokir pola sing dikenal, nanging pangguna sing ditemtokake terus-terusan nemokake solusi, lan model gambar bobot mbukak wis nggawe sawetara kemampuan ora bisa dielingake kabeh.
Tuduhan ing kasus xAI nuduhake pungkasan sing paling abot saka spektrum kasebut: pratelan manawa foto siji bocah bisa diowahi dadi ewonan gambar eksplisit nggunakake alat sing dioperasikake dening salah sawijining perusahaan AI sing paling misuwur ing donya, sing pasar Grok menyang jutaan pelanggan minangka produk konsumen.
Ahli hukum sawise kasus kasebut ujar manawa tawaran aksi kelas bakal nyoba apa pengadilan nganggep kegagalan kanggo nyegah penyalahgunaan kasebut minangka cacat produk sing tanggung jawab perusahaan AI - utawa minangka penyalahgunaan dening pangguna individu sing ora tanggung jawab perusahaan kasebut.
Apa sabanjure
Tujuan langsung para penggugat yaiku sertifikasi kelas, sing bakal nggedhekake blumbang potensial penuntut marang xAI. Kanggo bagean kasebut, xAI wis mbantah ing pengadilan sing ana gandhengane manawa tanggung jawab kanggo nyalahi panggunaan ana ing pangguna, dudu alat kasebut. Kajaba saka Jane Doe 4, kanthi akun sing diduga mbebayani kanggo bocah, nambah tekanan umum lan politik ing sekitar pertahanan kasebut.
Kasus kasebut terus berkembang nalika regulator ing Amerika Serikat lan Eropa debat kewajiban transparansi lan standar safety kanggo AI generatif, lan minangka bukti sing nglumpukake yen nyalahi panggunaan generasi gambar ora mung ing piranti pinggiran. Apa jawaban kasebut teka ing pengadilan, ing undang-undang, utawa ing pilihan teknik perusahaan AI dhewe, pitakonan utama tuntutan hukum - sepira pencegahan cilaka sing kudu ditindakake sadurunge dikirim produk AI - tetep dadi masalah mbukak industri sing paling ora nyenengake.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
