Laporan babagan materi pelecehan seksual bocah sing ana gandhengane karo AI generatif wis njeblug saka kira-kira 4,700 ing 2023 dadi luwih saka 400,000 ing 2025 - mundhak luwih saka 8,400% sajrone rong taun, miturut data saka Childlight, Global Child Safety Institute adhedhasar ing Universitas Edinburgh.

Angka kasebut diterbitake dina Senin, 16 November minangka bagean saka Childlight's 2026 Into the Light Index lan dilaporake dening The Guardian. Dheweke makili referral sing diajokake perusahaan teknologi menyang Pusat Nasional AS kanggo Bocah-bocah sing Ilang lan Dieksploitasi (NCMEC) - jumlah platform sing dideteksi lan dilapurake, dudu sensus kabeh sing ana ing sirkulasi. Lonjakan kasebut minangka sinyal kuantitatif sing paling jelas yen penyalahgunaan AI generatif, sing wis suwe diterangake dening industri minangka risiko ing cakrawala, wis dadi salah sawijining kategori paling gedhe saka pelaporan eksploitasi anak online, owah-owahan sing didokumentasikake ing [liputan warta AI sing bubar] (https://aibuzzwire.news) babagan keamanan lan regulasi platform.

Saka 4.700 nganti 400.000 Rujukan

Indeks nglacak laporan manawa perusahaan teknologi diwajibake ngirim menyang NCMEC nalika ndeteksi materi penyalahgunaan seksual bocah sing dicurigai ing layanane. Mlumpat saka udakara 4,700 referral ing taun 2023 dadi luwih saka 400,000 ing 2025 peta meh persis menyang rollout konsumen generator gambar lan alat fine-tuning murah ing wektu sing padha.

Angka judhul ora mung nomer sing beredar. NCMEC wis ujar kanthi kapisah yen CyberTipline nampa luwih saka siji yuta laporan sing gegandhengan karo AI generatif antarane Januari lan September 2025 - total luwih gedhe tinimbang 400,000 Citer Childlight, nggambarake bedane babagan rong jumlah kasebut. Rong set data ngukur barang sing tumpang tindih nanging beda, lan loro-lorone nuduhake arah sing padha.

Aplikasi Nudify lan Deepfakes saka Anak Nyata

Laporan Childlight uga nyoroti tuwuhe aplikasi sing diarani nudify, sing nggunakake AI generatif kanggo nempatake raine bocah menyang gambar sing jelas. Gambar-gambar kasebut sintetik, nanging cilaka ora: gambar kasebut nggambarake bocah-bocah sing sejatine, dituduhake ing antarane para pelanggar, lan saya akeh digunakake kanggo meres lan ngganggu bocah cilik.

Profesor Debi Fry, direktur data Childlight, ujar manawa kacepetan AI ngganti ancaman kanggo bocah-bocah pancen prihatin, miturut laporan Guardian. Keprigelan kasebut ora ana maneh kemampuan hipotetis nanging produksi skala industri: apa sing dibutuhake usaha lan katrampilan ing taun 2023 saiki mung mbutuhake download app store.

Apa Sing Ditemokake Pengawas

Assessment independen ndhukung ukuran masalah. The Internet Watch Foundation, pengawas Inggris sing langsung ngevaluasi materi sing dilaporake, nemokake 6,310 gambar sing digawe AI sing cocog karo definisi legal penyalahgunaan seksual bocah ing separo pisanan 2026 - 40% luwih saka kabeh taun 2025.

Lintasan kanggo video isih ana. IWF ngenali 3,440 video penyalahgunaan seksual bocah sing digawe AI ing taun 2025, saka mung 13 ing taun 2024, lan 65% ana ing Kategori A, kelas paling abot miturut hukum Inggris. Mlumpat saka 13 dadi 3,440 ing setaun nuduhake alat sing dipindhah saka gambar foto menyang mindhah video sing luwih cepet tinimbang sistem deteksi sing bisa diadaptasi.

Regulasi Iku Balapan kanggo Nyetak

Inggris wis pindhah paling adoh nganti saiki. Miturut Undhang-undhang Kejahatan lan Kepolisian 2026, saiki dadi pelanggaran pidana kanggo duwe, nggawe utawa nyebarake alat AI sing dirancang kanggo ngasilake materi penyalahgunaan bocah, bisa dihukum nganti limang taun penjara, miturut lembar fakta pemerintah dhewe. Undhang-undhang sing padha ngkriminalake nggawe utawa nyedhiyakake alat nudifikasi - pranata sing ditujokake langsung marang pangembang app ing mburine.

Ing papan liya gambare luwih tipis. Indeks Childlight nemokake yen mung 22 saka 103 negara sing ditliti duwe data survey lengkap sing nyakup penyalahgunaan bocah sing difasilitasi offline lan teknologi, tegese umume pemerintah nggawe undang-undang tanpa garis dasar sing bisa dipercaya. Institusi kasebut njaluk undang-undang keamanan online sing luwih angel, pengumpulan data sing luwih apik, tanggung jawab sing luwih gedhe saka sektor teknologi lan kerja pencegahan sing luwih awal.

Masalah Pipa Pelaporan

Siji watesan penting nalika nerangake angka: data kasebut ora nyebutake model utawa platform tartamtu minangka sumber materi sing dilaporake. Tip kasebut teka saka perusahaan teknologi sing mindhai layanan lan nglaporake apa sing ditemokake - tegese perusahaan sing ora mindai ora ngasilake laporan. Pelaporan sing dipimpin dening deteksi yaiku, minangka cathetan laporan Guardian, jinis keamanan sing tipis, lan tokoh sabanjure bakal nuduhake perusahaan endi sing bener-bener digoleki.

Kanggo industri AI, pesen indeks kasebut ora ambigu. Penyalahgunaan alat generatif ora ana maneh proyeksi ing bagean resiko kertu model; iku baris paling gedhe ing ledger, lan perusahaan sing model lan app digawe planggaran mirah bakal dijaluk kanggo mbayar - ing tumindak penegakan, ing biaya selaras, lan ing hukum.

Tetep Ahead of AI

Tindakake debat babagan keamanan lan regulasi AI nalika mbukak. Waca liyane warta AI →