Mahkamah Agung Denmark Peraturan Imej Penderaan Kanak-Kanak Dijana AI Adalah Haram

Mahkamah Agung Denmark telah mengekalkan sabitan ke atas seorang lelaki berusia 31 tahun kerana mencipta dan mengedarkan lebih daripada 36,000 imej janaan AI yang menggambarkan penderaan seksual kanak-kanak, mengesahkan hukuman penjara 18 bulan dan menyelesaikan soalan yang telah dibicarakan di mahkamah di seluruh dunia: sama ada bahan penderaan yang dijana secara buatan dianggap sama sebagai mangsa penderaan yang sebenar. Jawapan mahkamah, yang diumumkan minggu ini, adalah jelas — bahan penderaan seksual kanak-kanak yang dijana AI adalah menyalahi undang-undang dan boleh dihukum seperti yang sebenar.

Keputusan itu, yang dilaporkan oleh saluran antarabangsa termasuk Reuters dan diterbitkan melalui mahkamah Denmark, menutup salah satu ujian rayuan penting pertama tentang bagaimana undang-undang perlindungan kanak-kanak berusia berabad-abad menyerap AI generatif. Defendan telah disabitkan di peringkat mahkamah rendah kerana memiliki dan mengedarkan bahan tersebut, dan merayu atas hujah bahawa tiada anak sebenar terlibat dalam menghasilkan imej tersebut. Mahkamah Agung menolak alasan itu sepenuhnya, mendapati bahawa sifat fiksyen penggambaran itu tidak meletakkannya di luar undang-undang jenayah. Bagi pembaca yang menjejaki cara sistem undang-undang bertindak balas terhadap teknologi generatif, keputusan itu disenaraikan antara entri paling penting dalam berita AI mengenai peraturan tahun ini.

Mengapa Kes itu Penting

Soalan undang-undang di tengah-tengah rayuan adalah mudah menipu: apabila imej dijana dan bukannya gambar, adakah ia "bahan penderaan seksual kanak-kanak" sama sekali? Hujah pembelaan dalam kes seperti ini secara tradisinya bersandar pada ketiadaan mangsa yang boleh dikenal pasti — tiada kanak-kanak sebenar telah difoto, dicederakan atau terlibat. Hujah itu telah mendapat kebolehpercayaan permukaan kerana penjana imej moden boleh menghasilkan gambaran fotorealistik kanak-kanak yang tidak wujud, lengkap dengan wajah, badan dan tetapan yang realistik, tanpa sebarang imejan rujukan orang sebenar.

Maklum balas Mahkamah Agung Denmark menyelaraskan undang-undang Denmark dengan tujuan perlindungan Konvensyen PBB mengenai Hak Kanak-kanak, yang undang-undang pelaksanaan Denmark direka untuk dilaksanakan. Mahkamah memutuskan bahawa undang-undang tidak membentuk pelabuhan yang selamat untuk gambaran rekaan, dan bahan yang dijana AI termasuk dalam skop larangan sedia ada. Akibat praktikal ialah menjana, memiliki atau mengedarkan imej sedemikian membawa pendedahan jenayah yang sama seperti bahan penderaan tradisional — hukuman 18 bulan dalam kes ini, untuk bahan yang tidak pernah melibatkan gambar sebenar.

Peraturan Dengan Jangkauan Melangkaui Denmark

Walaupun penghakiman hanya mengikat mahkamah Denmark, kepentingannya adalah antarabangsa. Pendakwa raya di seluruh Eropah dan Amerika Utara telah bergelut dengan lonjakan imej penyalahgunaan yang dijana AI, dan mahkamah di beberapa bidang kuasa telah mencapai kesimpulan yang sama melalui laluan undang-undang yang berbeza — sesetengahnya bergantung pada statut yang sudah meliputi gambaran tidak kira sama ada kanak-kanak sebenar telah digunakan, yang lain melanjutkan rangka kerja lucah dan perlindungan kanak-kanak yang sedia ada melalui tafsiran. Apa yang ditambahkan oleh keputusan Denmark itu ialah kenyataan peringkat rayuan yang jelas daripada bidang kuasa yang mempunyai reputasi untuk pemikiran ke hadapan teknologi dalam undang-undang, mengukuhkan konsensus antarabangsa yang baru muncul bahawa ketiadaan mangsa sebenar dalam proses pengeluaran bukanlah pembelaan.

Skala kes - lebih daripada 36,000 imej - menggambarkan mengapa isu itu telah meningkat dengan cepat. Alat penjanaan telah meruntuhkan kos menghasilkan imej penderaan kepada hampir sifar, dan statistik rampasan daripada agensi penguatkuasaan undang-undang di berbilang negara telah menunjukkan bahan yang dijana AI muncul dalam bahagian penyiasatan eksploitasi kanak-kanak yang semakin meningkat. Tidak seperti bahan tradisional, setiap imej boleh dijana, dijana semula dan diubah tanpa henti, yang menggandakan kedua-dua jumlah penyiasat mesti mencuba dan risiko bahawa pemalsuan realistik digunakan untuk mengasuh, memeras ugut atau menyahpeka kanak-kanak sebenar.

Tindakan Denmark yang Lebih Luas terhadap Penyalahgunaan Generatif

Keputusan itu sesuai dengan sikap aktivis Denmark yang jelas mengenai bahaya AI generatif. Denmark telah memajukan undang-undang untuk mengharamkan perkongsian pemalsuan dalam yang dijana oleh AI tanpa persetujuan, rang undang-undang yang akan memberi rakyat kawalan seperti hak cipta ke atas rupa mereka sendiri — pendekatan yang menarik perhatian luas apabila ia dicadangkan. Mengenai perlindungan kanak-kanak khususnya, pihak berkuasa Denmark telah menganggap bahan penderaan sintetik sebagai sasaran penguatkuasaan keutamaan dan bukannya zon kelabu yang sah.

Gabungan itu — perundangan agresif yang menyasarkan deepfakes dan kini menjadi preseden Mahkamah Agung mengenai CSAM yang dijana AI — meletakkan Denmark sebagai titik rujukan untuk negara anggota EU lain yang melaksanakan Akta AI blok itu dan kewajipan keselamatan kanak-kanak yang berkaitan. Platform dan pembekal model yang beroperasi di Eropah kini menghadapi gambaran yang lebih jelas: kewajipan penapisan, pengesanan dan pelaporan di sekitar bahan penyalahgunaan sintetik tidak terhad kepada imejan yang diperoleh daripada mangsa sebenar.

Maksudnya untuk Syarikat AI

Bagi syarikat yang membina model imej dan video generatif, keputusan seperti ini mengeraskan persekitaran undang-undang di sekitar kawasan pematuhan yang sudah tidak boleh dimaafkan. Setiap makmal sempadan utama mengekalkan penapis yang bertujuan untuk menyekat gambaran seksual kanak-kanak di bawah umur, dan industri telah melabur dalam piawaian asal seperti bukti kelayakan kandungan untuk membezakan media sintetik. Penghakiman Denmark tidak mengubah kewajipan kejuruteraan tersebut — ia mengubah kepentingan. Apabila mahkamah rayuan mengesahkan bahawa imejan penyalahgunaan yang dijana didakwa sama dengan bahan fotografi, hujah untuk menganggap perlindungan kandungan penyalahgunaan sebagai infrastruktur keselamatan teras dan bukannya penyederhanaan pilihan menjadi hampir tidak dapat dijawab.

Keputusan itu juga menawarkan templat untuk penggubal undang-undang yang masih merangka jawapan mereka. Daripada menunggu parlimen meluluskan statut baharu yang menamakan bahan yang dijana AI secara khusus, mahkamah menunjukkan bahawa rangka kerja perlindungan kanak-kanak sedia ada boleh menyerap teknologi itu — tetapi bahasa berkanun yang jelas akan menghapuskan kesamaran yang defendan dalam kes akan datang akan terus diuji.

Hukuman 18 bulan ke atas lelaki berusia 31 tahun itu kini kekal. Dan fiksyen undang-undang bahawa "tiada anak sebenar dicederakan" telah mengalami kekalahan awam yang ketara di mahkamah agung Eropah - isyarat yang akan bergema melalui pendakwaan bahan penderaan yang dijana AI jauh di luar sempadan Denmark.

Kekal Maklum tentang Peraturan AI

Mahkamah dan pengawal selia berlumba-lumba untuk bersaing dengan AI generatif. Untuk pelaporan yang disahkan tentang undang-undang, dasar dan penguatkuasaan AI, ikuti AI Buzz Wire.

Baca lebih banyak berita AI →