Pengacara kutha San Francisco wis mrentahake Apple lan Google supaya mbusak aplikasi nudification intelijen buatan saka toko aplikasi, ngelingake yen platform kasebut nglanggar undang-undang California sing nglarang layanan sing nggawe pornografi palsu. Panjaluk kasebut nambah konfrontasi sing saya tambah akeh babagan alat AI sing ngowahi foto biasa wong nyata dadi gambar sing jelas, krisis sing nyebabake wanita lan bocah-bocah sing ora proporsional.

Skala Masalah

Aplikasi Nudification nggunakake AI generatif kanggo nggawe gampang nyopot sandhangan saka foto wong nyata, ngowahi fitur, nyelehake ing posisi seksual, lan ngganti pasuryan menyang awak telanjang wong liya. Teknologi kasebut wis berkembang kanthi cepet ing toko aplikasi seluler, lan asile digunakake kanggo ngganggu, ngremehake, lan ngancam korban kanthi akibat sing ngrusak.

Pengacara San Francisco City David Chiu ngandhani Wired yen kantore pancen nggegirisi amarga teknologi nudifying wis ana ing endi-endi, dadi korban umume wanita lan bocah-bocah ing skala sing nguwatirake amarga luwih akeh alat sing mbanjiri pasar. Gambar kasebut, ujare, digunakake kanggo ngrusak reputasi, ngrusak kesehatan mental, lan ngilangi otonomi para korban, kanthi sawetara target dadi suicidal.

Apa sing Dikarepake Surat

Kantor Chiu ngirim surat resmi menyang perusahaan loro sing ngelingake manawa toko aplikasi kasebut nglanggar undang-undang California sing nglarang layanan dhukungan sing nggawe pornografi palsu, miturut Wired. Dheweke njaluk Google mbusak limang aplikasi lan Apple mbusak wolung. Aplikasi khusus kasebut ora dijenengi ing laporan umum supaya ora nyopir wong menyang dheweke, nanging Wired nyathet yen salah sawijining aplikasi sing diwenehi tandha wis nglumpukake luwih saka sejuta undhuhan lan mbukak iklan fitur kanggo nggawe seksual gambar wanita utawa ngasilake video gratis lan ora disensor.

Kantor Chiu ngira manawa Apple lan Google wis entuk biaya jutaan dolar kanthi ngidini aplikasi sing mbebayani tetep ana ing toko tinimbang njupuk tindakan sing luwih kuat utawa ngembangake sistem deteksi sing luwih apik. Pengacara kutha kasebut nyatakake kahanan kasebut minangka entuk bathi saka gangguan umum, ujar manawa ngidini aplikasi kasebut tetep kasedhiya ora bisa ditampa.

Google Nanggapi, Apple Tetep Meneng

Ing pratelan menyang Ars Technica, juru wicoro Google Dan Jackson ngonfirmasi manawa limang aplikasi sing ditandhani dening Chiu wis ditundha saka toko Google Play amarga nglanggar kabijakan nglawan konten sing mbebayani. Jackson ujar manawa Google Play ora ngidini aplikasi sing ngemot konten seksual lan perusahaan kasebut terus-terusan njupuk langkah-langkah proaktif kanggo ndeteksi lan mbusak aplikasi kanthi konten sing mbebayani. Nalika pelanggaran dilaporake, Jackson ujar, Google nyelidiki lan njupuk tindakan cepet, sing kalebu nundha atusan aplikasi sing nglanggar lan mbatesi istilah telusuran sing gegandhengan kaya nudify ing toko.

Tanggepan Apple beda banget. Nalika perusahaan wis ngilangi sawetara aplikasi sing ditandhani dening peneliti ing jaman kepungkur, nanging tetep bisu ing tengah-tengah telpon menyang aplikasi nudification polisi kanthi luwih agresif ing App Store. Produsen iPhone ora langsung menehi tanggapan umum sing rinci babagan panjaluk jaksa kutha.

Game Deteksi Kucing-lan-Tikus

Tantangan kanggo ngawasi aplikasi kasebut ditambah karo taktik sing berkembang. Wired nglaporake manawa peneliti bubar ngelingake sawetara aplikasi sing mbebayani wis dadi luwih apik kanggo ngindhari panyingkiran toko app kanthi mung ngiklanake fitur ganti pasuryan nalika ndhelikake kemampuan nudifying. Ing kertas pracetak Mei, peneliti ngenali 420 aplikasi sing dipasarake minangka alat ganti pasuryan umum lan nguji 155 aplikasi kasebut. Ing luwih saka 70 persen kasus, aplikasi kasebut bisa digunakake kanggo nggawe gambar seksual, nuduhake sepira gampang fungsi mbebayani ndhelikake marketing sing ora mbebayani.

Kesenjangan deteksi iki tegese sanajan toko aplikasi kanthi proaktif nggoleki alat nudify, akeh sing mlebu kanthi nampilake awake dhewe minangka piranti lunak hiburan utawa nyunting foto sing ora mbebayani. Panemuan peneliti nuduhake manawa jumlah aplikasi sing ana masalah ing sirkulasi kemungkinan luwih dhuwur tinimbang telulas sing ditandhani dening kantor Chiu.

Preseden Grok

Pelanggaran aplikasi nudify uga intersects karo debat sing luwih jembar babagan konten mbebayani sing digawe AI. Minggu iki, xAI ngajokake tuntutan hukum sing ngonfirmasi yen dheweke nemokake kedadeyan materi pelecehan seksual bocah sing digawe Grok lan citra intim nonconsensual sing nargetake wong diwasa. Kanggo ngatasi penyalahgunaan kasebut, xAI nuntut pangguna sing diduga tanggung jawab kanggo njaluk Grok ngasilake konten ilegal.

Kasus Grok nimbulake pitakonan sing luwih angel kanggo toko aplikasi: apa chatbot AI sing bisa dijaluk ngasilake konten ilegal kudu dicopot. Apple dilaporake marang para senator ing wulan April yen wis ngancam kanthi pribadi kanggo mbusak Grok saka App Store, miturut NBC News, nanging aplikasi xAI tetep kasedhiya saiki. Anggere bisa nggunakake Grok kanggo ngasilake konten ilegal, toko app bakal terus ngadhepi tekanan kanggo tumindak, kaya sing dikarepake Chiu kanggo aplikasi nudifikasi mandiri.

Titik Balik kanggo Akuntabilitas Platform

Pesenan San Francisco minangka salah sawijining intervensi pemerintah sing paling agresif nganti saiki nargetake toko aplikasi liwat konten mbebayani sing digawe AI. Kanthi nggunakake undang-undang pornografi palsu California, Chiu nyoba apa statuta negara bisa meksa operator platform kanggo tanggung jawab kanggo alat AI sing disebarake liwat pasar.

Asil kasebut bisa dadi preseden babagan carane yurisdiksi liyane nyedhaki masalah kasebut, lan apa beban polisi citra nonconsensual sing digawe AI tumiba ing pangembang, operator platform, utawa loro-lorone. Kanggo mayuta-yuta wong, utamane wanita lan bocah-bocah wadon, sing wis dadi target alat kasebut, taruhan kasebut ngluwihi teori regulasi.

Tetep Ahead saka AI

Kanggo liputan sing terus-terusan babagan etika AI, akuntabilitas platform, lan perang regulasi babagan media sintetik sing mbebayani, tindakake AI Buzz Wire kanggo nglaporake masalah sing nyebabake pengaruh AI marang masyarakat.

Waca liyane warta etika AI →