Mahkamah Agung Denmark memutuskan bahwa gambar pelecehan anak yang dibuat oleh AI adalah ilegal

Mahkamah Agung Denmark telah menguatkan hukuman terhadap seorang pria berusia 31 tahun karena membuat dan mendistribusikan lebih dari 36.000 gambar buatan AI yang menggambarkan pelecehan seksual terhadap anak-anak, membenarkan hukuman penjara 18 bulan dan menyelesaikan pertanyaan yang telah diajukan ke pengadilan di seluruh dunia: apakah materi pelecehan yang dibuat secara artifisial diperlakukan sebagai kriminal seperti halnya gambar yang melibatkan korban nyata. Jawaban pengadilan, yang diumumkan minggu ini, tegas – materi pelecehan seksual terhadap anak yang dihasilkan oleh AI sama ilegal dan dapat dihukum seperti materi aslinya.

Putusan tersebut, yang dilaporkan oleh media internasional termasuk Reuters dan dipublikasikan melalui pengadilan Denmark, menutup salah satu uji banding penting pertama tentang bagaimana undang-undang perlindungan anak yang berusia berabad-abad menyerap AI generatif. Terdakwa telah dihukum di tingkat pengadilan yang lebih rendah karena memiliki dan mendistribusikan materi tersebut, dan mengajukan banding atas argumen bahwa tidak ada anak sungguhan yang terlibat dalam pembuatan gambar tersebut. Mahkamah Agung menolak sepenuhnya alasan tersebut, dan menyatakan bahwa sifat fiksi dari penggambaran tersebut tidak menempatkannya di luar hukum pidana. Bagi pembaca yang menelusuri bagaimana sistem hukum merespons teknologi generatif, keputusan tersebut merupakan salah satu entri paling penting dalam berita AI tahun ini mengenai regulasi.

Mengapa Kasus Ini Penting

Pertanyaan hukum yang menjadi inti permohonan banding ini tampak sederhana: ketika sebuah gambar dibuat dan bukan difoto, apakah itu merupakan “materi pelecehan seksual terhadap anak-anak”? Argumen pembelaan dalam kasus seperti ini secara tradisional bersandar pada tidak adanya korban yang dapat diidentifikasi – tidak ada anak sungguhan yang difoto, disakiti, atau bahkan terlibat. Argumen tersebut semakin masuk akal karena generator gambar modern dapat menghasilkan penggambaran fotorealistik dari anak-anak yang tidak ada, lengkap dengan wajah, tubuh, dan latar yang realistis, tanpa referensi gambar orang sungguhan.

Tanggapan Mahkamah Agung Denmark menyelaraskan undang-undang Denmark dengan tujuan perlindungan Konvensi PBB tentang Hak Anak, yang mana undang-undang Denmark dirancang untuk diterapkan dalam penerapannya. Pengadilan memutuskan bahwa undang-undang tersebut tidak memberikan perlindungan yang aman bagi penggambaran fiktif, dan bahwa materi yang dihasilkan AI termasuk dalam cakupan larangan yang ada. Konsekuensi praktisnya adalah pembuatan, kepemilikan, atau pendistribusian gambar-gambar tersebut sama saja dengan ancaman pidana seperti materi pelecehan tradisional – dalam kasus ini, hukumannya adalah 18 bulan penjara, untuk materi yang tidak pernah melibatkan foto asli.

Keputusan Dengan Jangkauan Melampaui Denmark

Meskipun keputusan tersebut hanya mengikat pengadilan Denmark, namun signifikansinya bersifat internasional. Jaksa di seluruh Eropa dan Amerika Utara sedang berjuang melawan lonjakan gambar pelecehan yang dihasilkan oleh AI, dan pengadilan di beberapa yurisdiksi telah mencapai kesimpulan serupa melalui jalur hukum yang berbeda – beberapa pengadilan mengandalkan undang-undang yang sudah mencakup penggambaran terlepas dari apakah benar-benar anak yang digunakan, yang lain memperluas kerangka kerja cabul dan perlindungan anak melalui interpretasi. Apa yang ditambahkan dalam putusan Denmark adalah pernyataan yang jelas dan tingkat banding dari suatu yurisdiksi yang mempunyai reputasi dalam hal teknologi yang berpikiran maju dalam bidang hukum, memperkuat konsensus internasional yang muncul bahwa tidak adanya korban nyata dalam proses produksi bukanlah sebuah pembelaan.

Skala kasus ini – lebih dari 36.000 gambar – menggambarkan mengapa masalah ini meningkat begitu cepat. Alat generatif telah mengurangi biaya pembuatan gambar pelecehan hingga hampir nol, dan statistik penyitaan dari lembaga penegak hukum di berbagai negara menunjukkan bahwa materi yang dihasilkan oleh AI semakin banyak muncul dalam investigasi eksploitasi anak. Tidak seperti materi tradisional, setiap gambar dapat dibuat, dibuat ulang, dan divariasikan tanpa henti, yang melipatgandakan volume yang harus diprioritaskan oleh penyelidik dan risiko bahwa gambar palsu digunakan untuk mempelai pria, memeras, atau menurunkan kepekaan anak-anak yang sebenarnya.

Tindakan Keras yang Lebih Luas di Denmark terhadap Pelanggaran Generatif

Keputusan tersebut sesuai dengan sikap aktivis Denmark terhadap dampak buruk AI yang bersifat generatif. Denmark telah mengajukan undang-undang yang melarang pembagian video deepfake yang dibuat oleh AI terhadap orang sungguhan tanpa persetujuan, sebuah undang-undang yang akan memberikan warga negara kendali seperti hak cipta atas kemiripan mereka sendiri – sebuah pendekatan yang menarik perhatian luas ketika diusulkan. Khususnya mengenai perlindungan anak, pihak berwenang Denmark telah memperlakukan materi pelecehan sintetis sebagai target penegakan prioritas dibandingkan sebagai zona abu-abu hukum.

Kombinasi tersebut – undang-undang agresif yang menargetkan deepfake dan kini menjadi preseden Mahkamah Agung mengenai CSAM yang dihasilkan oleh AI – menempatkan Denmark sebagai titik referensi bagi negara-negara anggota UE lainnya yang menerapkan Undang-Undang AI di blok tersebut dan kewajiban terkait keselamatan anak. Platform dan penyedia model yang beroperasi di Eropa kini menghadapi gambaran yang lebih jelas: kewajiban pemfilteran, deteksi, dan pelaporan seputar materi pelecehan sintetis tidak terbatas pada gambar yang berasal dari korban sebenarnya.

Apa Artinya Bagi Perusahaan AI

Bagi perusahaan yang membangun model gambar dan video generatif, peraturan seperti ini memperkeras lingkungan hukum seputar bidang kepatuhan yang sudah tidak kenal ampun. Setiap laboratorium terdepan memiliki filter yang dimaksudkan untuk memblokir penggambaran seksual terhadap anak di bawah umur, dan industri ini telah berinvestasi dalam standar asal seperti kredensial konten untuk membedakan media sintetis. Keputusan Denmark tidak mengubah kewajiban teknis tersebut – namun mengubah taruhannya. Ketika pengadilan banding menegaskan bahwa gambar pelecehan yang dihasilkan dituntut secara identik dengan materi fotografi, argumen untuk memperlakukan perlindungan konten yang mengandung pelecehan sebagai infrastruktur keselamatan inti dan bukan moderasi opsional menjadi hampir tidak dapat dijawab.

Keputusan tersebut juga memberikan contoh bagi legislator yang masih menyusun tanggapan mereka. Daripada menunggu parlemen untuk mengesahkan undang-undang baru yang menyebutkan materi yang dihasilkan AI secara spesifik, pengadilan justru menunjukkan bahwa kerangka perlindungan anak yang ada saat ini dapat menyerap teknologi tersebut – namun bahasa undang-undang yang jelas akan menghilangkan ambiguitas yang akan terus diuji oleh para terdakwa dalam kasus-kasus di masa depan.

Hukuman 18 bulan terhadap pemain berusia 31 tahun itu kini tetap berlaku. Dan fiksi hukum bahwa “tidak ada anak yang benar-benar dirugikan” telah mengalami kekalahan publik yang signifikan di mahkamah agung Eropa – sebuah sinyal yang akan bergema melalui penuntutan materi pelecehan yang dihasilkan oleh AI jauh di luar batas Denmark.

Tetap Terinformasi tentang Peraturan AI

Pengadilan dan regulator berlomba untuk mengimbangi AI generatif. Untuk pelaporan terverifikasi mengenai hukum, kebijakan, dan penegakan AI, ikuti AI Buzz Wire.

Baca berita AI selengkapnya →