Laporan materi pelecehan seksual terhadap anak-anak yang terkait dengan AI generatif telah melonjak dari sekitar 4.700 pada tahun 2023 menjadi lebih dari 400.000 pada tahun 2025 — peningkatan lebih dari 8.400% dalam dua tahun, menurut data dari Childlight, Institut Keamanan Anak Global yang berbasis di Universitas Edinburgh.

Angka-angka tersebut dipublikasikan pada Senin, 16 November sebagai bagian dari Indeks Into the Light 2026 dari Childlight dan dilaporkan oleh The Guardian. Data tersebut mewakili rujukan yang diajukan oleh perusahaan teknologi ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC) Amerika Serikat – yang merupakan penghitungan atas apa yang dideteksi dan dilaporkan oleh platform, bukan sensus atas semua hal yang beredar. Lonjakan ini merupakan sinyal kuantitatif yang paling jelas bahwa penyalahgunaan AI generatif, yang telah lama digambarkan oleh industri sebagai risiko yang akan segera terjadi, telah menjadi salah satu kategori terbesar dalam pelaporan eksploitasi anak secara online, sebuah perubahan yang didokumentasikan dalam liputan berita AI terkini mengenai keamanan dan regulasi platform.

Dari 4.700 menjadi 400.000 Referensi

Indeks tersebut melacak laporan yang secara hukum diwajibkan oleh perusahaan teknologi untuk mengirimkan ke NCMEC ketika mereka mendeteksi dugaan materi pelecehan seksual terhadap anak di layanan mereka. Lonjakan dari sekitar 4.700 rujukan pada tahun 2023 menjadi lebih dari 400.000 pada tahun 2025 hampir sama dengan peluncuran generator gambar dan alat penyesuaian murah kepada konsumen pada periode yang sama.

Angka headline bukanlah satu-satunya nomor yang beredar. NCMEC mengatakan secara terpisah bahwa CyberTipline-nya menerima lebih dari satu juta laporan terkait AI generatif antara bulan Januari dan September 2025 – jumlah total yang lebih besar dari 400.000 laporan Childlight, yang mencerminkan perbedaan dalam cakupan kedua penghitungan tersebut. Kedua kumpulan data tersebut mengukur hal-hal yang tumpang tindih namun berbeda, dan keduanya menunjukkan arah yang sama.

Aplikasi Nudify dan Deepfake Anak Asli

Laporan Childlight juga menyoroti pertumbuhan aplikasi nudify, yang menggunakan AI generatif untuk menempatkan wajah anak-anak pada gambar eksplisit. Gambar-gambar tersebut adalah sintetik, namun tidak ada dampak buruknya: gambar-gambar tersebut menggambarkan anak-anak sungguhan, dibagikan kepada para pelanggar, dan semakin banyak digunakan untuk pemerasan dan pelecehan terhadap anak di bawah umur.

Profesor Debi Fry, direktur data Childlight, mengatakan kecepatan AI dalam mengubah ancaman terhadap anak-anak sangat memprihatinkan, menurut laporan Guardian. Kekhawatirannya bukan lagi pada kemampuan hipotetis, melainkan pada produksi skala industri: apa yang dibutuhkan upaya dan keterampilan pada tahun 2023 kini hanya memerlukan pengunduhan di toko aplikasi.

Apa yang Ditemukan oleh Pengawas

Penilaian independen menguatkan skala permasalahan. Internet Watch Foundation, badan pengawas Inggris yang secara langsung menilai materi yang dilaporkan, menemukan 6.310 gambar yang dihasilkan AI yang memenuhi definisi hukum pelecehan seksual terhadap anak-anak pada paruh pertama tahun 2026 — 40% lebih banyak dibandingkan seluruh tahun 2025.

Perkembangan video masih lebih tajam. IWF mengidentifikasi 3.440 video pelecehan seksual terhadap anak-anak yang dihasilkan oleh AI pada tahun 2025, naik dari hanya 13 video pada tahun 2024, dan 65% di antaranya masuk dalam Kategori A, tingkat paling parah menurut hukum Inggris. Lonjakan dari 13 menjadi 3.440 dalam satu tahun menunjukkan bahwa alat tersebut berpindah dari gambar diam ke video bergerak lebih cepat daripada yang dapat diadaptasi oleh sistem deteksi.

Regulasi Berpacu untuk Mengejar

Inggris telah mengambil langkah paling jauh sejauh ini. Berdasarkan Undang-Undang Kejahatan dan Perpolisian tahun 2026, memiliki, membuat, atau mendistribusikan alat AI yang dirancang untuk menghasilkan materi pelecehan anak merupakan pelanggaran pidana, yang dapat dihukum hingga lima tahun penjara, menurut lembar fakta pemerintah. Undang-undang yang sama juga mengkriminalisasi pembuatan atau penyediaan alat nudifikasi – sebuah ketentuan yang ditujukan langsung kepada pengembang aplikasi di balik alat tersebut.

Di tempat lain gambarnya lebih tipis. Indeks Childlight menemukan bahwa hanya 22 dari 103 negara yang diteliti memiliki data survei komprehensif yang mencakup pelecehan anak secara offline dan yang difasilitasi oleh teknologi, yang berarti sebagian besar pemerintah membuat undang-undang tanpa dasar yang dapat diandalkan. Lembaga ini menyerukan undang-undang keselamatan online yang lebih ketat, pengumpulan data yang lebih baik, akuntabilitas yang lebih besar dari sektor teknologi, dan upaya pencegahan dini.

Masalah Saluran Pelaporan

Ada satu batasan yang penting ketika menafsirkan angka-angka tersebut: data tidak menyebutkan model atau platform tertentu sebagai sumber materi yang dilaporkan. Tipsnya datang dari perusahaan teknologi yang memindai layanan mereka dan melaporkan apa yang mereka temukan — yang berarti perusahaan yang tidak memindai tidak akan menghasilkan laporan. Pelaporan yang dipicu oleh deteksi, sebagaimana dicatat dalam laporan Guardian, merupakan bentuk pengamanan yang tipis, dan rangkaian angka berikutnya akan menunjukkan perusahaan mana yang sebenarnya sedang mencarinya.

Bagi industri AI, pesan dari indeks ini jelas. Penyalahgunaan alat generatif tidak lagi menjadi proyeksi dalam bagian risiko kartu model; ini adalah hal yang paling besar dalam buku besar, dan perusahaan-perusahaan yang model dan aplikasinya menganggap remeh penyalahgunaan ini akan diminta untuk membayarnya – dalam bentuk tindakan penegakan hukum, dalam biaya kepatuhan, dan dalam bidang hukum.

Tetap Terdepan dalam AI

Ikuti perdebatan mengenai keamanan dan regulasi AI yang sedang berlangsung. Baca berita AI selengkapnya →