ศาลฎีกาของเดนมาร์กพิพากษายืนตามการพิพากษาลงโทษชายวัย 31 ปีฐานสร้างและเผยแพร่ภาพที่ AI สร้างขึ้นกว่า 36,000 ภาพ ซึ่งแสดงถึงการล่วงละเมิดทางเพศเด็ก ยืนยันโทษจำคุก 18 เดือน และยุติคำถามที่แพร่กระจายไปทั่วศาลทั่วโลก: เนื้อหาการละเมิดที่สร้างขึ้นโดยเทียมนั้นถือเป็นอาชญากรรมในลักษณะเดียวกับภาพที่เกี่ยวข้องกับเหยื่อจริงหรือไม่ คำตอบของศาลที่ประกาศในสัปดาห์นี้ไม่มีความชัดเจน – เนื้อหาการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI นั้นผิดกฎหมายและมีโทษเช่นเดียวกับของจริง

คำตัดสินดังกล่าวรายงานโดยสื่อต่างประเทศ รวมถึงรอยเตอร์ และเผยแพร่ผ่านศาลของเดนมาร์ก ถือเป็นการปิดการทดสอบอุทธรณ์ที่สำคัญรายการแรกๆ ว่ากฎหมายคุ้มครองเด็กที่มีมานานหลายศตวรรษดูดซับ AI เชิงกำเนิดได้อย่างไร จำเลยถูกตัดสินว่ามีความผิดในระดับศาลชั้นต้นในข้อหาครอบครองและจำหน่ายสื่อดังกล่าว และได้ยื่นอุทธรณ์ในข้อโต้แย้งว่าไม่มีเด็กจริงๆ ที่เกี่ยวข้องกับการผลิตภาพดังกล่าว ศาลฎีกาปฏิเสธการให้เหตุผลทั้งหมด โดยพบว่าลักษณะที่สมมติขึ้นของการแสดงภาพไม่ได้ทำให้พวกเขาอยู่นอกกฎหมายอาญา สำหรับผู้อ่านที่ติดตามว่าระบบกฎหมายตอบสนองต่อเทคโนโลยีเจนเนอเรทีฟอย่างไร การตัดสินใจดังกล่าวได้รับการจัดอันดับให้เป็นหนึ่งในรายการที่มีผลสืบเนื่องมากที่สุดใน AI news เกี่ยวกับกฎระเบียบประจำปีนี้

เหตุใดคดีจึงมีความสำคัญ

คำถามทางกฎหมายที่เป็นหัวใจสำคัญของการอุทธรณ์นั้นง่ายมาก นั่นคือ เมื่อรูปภาพถูกสร้างขึ้นแทนที่จะถูกถ่ายรูป จะเป็น "สื่อการล่วงละเมิดทางเพศเด็ก" หรือไม่ ข้อโต้แย้งฝ่ายจำเลยในกรณีเช่นนี้ มักจะเน้นไปที่การไม่มีเหยื่อที่ระบุตัวตนได้ — ไม่มีเด็กคนไหนถูกถ่ายภาพ ได้รับอันตราย หรือแม้แต่เกี่ยวข้องด้วยซ้ำ ข้อโต้แย้งดังกล่าวได้รับความน่าเชื่อถือมากขึ้นเรื่อยๆ เนื่องจากโปรแกรมสร้างภาพสมัยใหม่สามารถสร้างการแสดงภาพเด็กที่ไม่มีตัวตนได้เหมือนจริง พร้อมด้วยใบหน้า ร่างกาย และสภาพแวดล้อมที่สมจริง โดยไม่ต้องมีภาพอ้างอิงถึงบุคคลจริง

คำตอบของศาลฎีกาเดนมาร์กทำให้กฎหมายของเดนมาร์กสอดคล้องกับเจตนารมณ์ในการคุ้มครองอนุสัญญาสหประชาชาติว่าด้วยสิทธิเด็ก ซึ่งกฎหมายบังคับใช้ของเดนมาร์กได้รับการออกแบบมาเพื่อรองรับ ศาลตัดสินว่ากฎหมายไม่ได้กำหนดพื้นที่ปลอดภัยสำหรับการพรรณนาที่สมมติขึ้น และเนื้อหาที่สร้างโดย AI อยู่ภายใต้ขอบเขตของข้อห้ามที่มีอยู่ ผลที่ตามมาในทางปฏิบัติก็คือ การสร้าง ครอบครอง หรือเผยแพร่ภาพดังกล่าวถือเป็นการกระทำผิดทางอาญาเช่นเดียวกับสื่อที่เป็นการละเมิดแบบดั้งเดิม ซึ่งในกรณีนี้ จะต้องโทษจำคุก 18 เดือน สำหรับเนื้อหาที่ไม่เคยเกี่ยวข้องกับภาพถ่ายจริง

การพิจารณาคดีที่เข้าถึงได้ไกลกว่าเดนมาร์ก

แม้ว่าคำตัดสินจะผูกมัดเฉพาะศาลเดนมาร์กเท่านั้น แต่ความสำคัญของคำพิพากษาก็ยังเป็นสากล อัยการทั่วยุโรปและอเมริกาเหนือกำลังต่อสู้กับภาพการละเมิดที่เกิดจาก AI ที่เพิ่มขึ้นอย่างรวดเร็ว และศาลในเขตอำนาจศาลหลายแห่งก็ได้ข้อสรุปที่คล้ายกันผ่านช่องทางทางกฎหมายที่แตกต่างกัน บางส่วนอาศัยกฎเกณฑ์ที่ครอบคลุมการแสดงภาพไม่ว่าเด็กจะถูกใช้จริงหรือไม่ก็ตาม บางส่วนขยายขอบเขตความลามกอนาจารที่มีอยู่และกรอบการคุ้มครองเด็กด้วยการตีความ สิ่งที่คำตัดสินของเดนมาร์กเพิ่มเติมคือคำแถลงระดับอุทธรณ์ที่ชัดเจนจากเขตอำนาจศาลที่มีชื่อเสียงในด้านความคิดก้าวหน้าทางเทคโนโลยีในด้านกฎหมาย ซึ่งตอกย้ำฉันทามติระหว่างประเทศที่เกิดขึ้นใหม่ว่าการไม่มีเหยื่อที่แท้จริงในกระบวนการผลิตไม่ใช่การป้องกัน

ขนาดของคดี — มากกว่า 36,000 ภาพ — แสดงให้เห็นว่าเหตุใดปัญหาจึงบานปลายอย่างรวดเร็ว เครื่องมือสร้างได้ลดต้นทุนในการผลิตภาพการละเมิดจนเกือบเป็นศูนย์ และสถิติการยึดจากหน่วยงานบังคับใช้กฎหมายในหลายประเทศแสดงให้เห็นว่าเนื้อหาที่สร้างโดย AI ปรากฏในส่วนแบ่งการสอบสวนการแสวงหาประโยชน์จากเด็กที่เพิ่มขึ้น ภาพทุกภาพสามารถสร้าง สร้างใหม่ และเปลี่ยนแปลงได้อย่างไม่มีที่สิ้นสุด ซึ่งต่างจากวัสดุแบบดั้งเดิม ซึ่งผู้ตรวจสอบปริมาณมากต้องคัดแยกและมีความเสี่ยงที่จะมีการนำภาพปลอมที่สมจริงมาใช้เพื่อดูแล แบล็กเมล์ หรือทำให้เด็ก ๆ รู้สึกว่าอ่อนไหว

การปราบปรามในวงกว้างของเดนมาร์กเกี่ยวกับการละเมิดโดยกำเนิด

คำตัดสินนี้สอดคล้องกับท่าทีของชาวเดนมาร์กที่เป็นนักเคลื่อนไหวอย่างชัดเจนเกี่ยวกับอันตรายจาก AI เดนมาร์กกำลังพัฒนากฎหมายเพื่อห้ามการแบ่งปัน Deepfakes ที่สร้างโดย AI ให้กับคนจริงๆ โดยไม่ได้รับความยินยอม ซึ่งเป็นร่างกฎหมายที่ให้พลเมืองสามารถควบคุมภาพลักษณ์ของตนเองได้เหมือนลิขสิทธิ์ ซึ่งเป็นแนวทางที่ดึงดูดความสนใจอย่างกว้างขวางเมื่อมีการเสนอ ในด้านการคุ้มครองเด็กโดยเฉพาะ ทางการเดนมาร์กถือว่าเนื้อหาที่มีการล่วงละเมิดสังเคราะห์เป็นเป้าหมายการบังคับใช้ที่มีลำดับความสำคัญมากกว่าที่จะถือเป็นพื้นที่สีเทาทางกฎหมาย

การรวมกันดังกล่าว - กฎหมายเชิงรุกที่กำหนดเป้าหมายไปที่ Deepfakes และตอนนี้เป็นแบบอย่างของศาลฎีกาเกี่ยวกับ CSAM ที่สร้างโดย AI - ทำให้เดนมาร์กเป็นจุดอ้างอิงสำหรับประเทศสมาชิกสหภาพยุโรปอื่น ๆ ที่บังคับใช้พระราชบัญญัติ AI ของกลุ่มและพันธกรณีด้านความปลอดภัยของเด็กที่เกี่ยวข้อง ขณะนี้แพลตฟอร์มและผู้ให้บริการโมเดลที่ดำเนินงานในยุโรปเผชิญกับภาพที่ชัดเจนยิ่งขึ้น: การกรอง การตรวจจับ และการรายงานภาระหน้าที่เกี่ยวกับเนื้อหาที่เป็นการล่วงละเมิดสังเคราะห์ไม่ได้จำกัดอยู่เพียงภาพที่ได้มาจากเหยื่อที่แท้จริง

ความหมายสำหรับบริษัท AI

สำหรับบริษัทที่สร้างโมเดลรูปภาพและวิดีโอทั่วไป คำตัดสินเช่นนี้ทำให้สภาพแวดล้อมทางกฎหมายในพื้นที่การปฏิบัติตามกฎระเบียบที่ไม่อาจให้อภัยได้อยู่แล้วเข้มแข็งขึ้น ห้องปฏิบัติการชายแดนหลักทุกแห่งมีตัวกรองที่มีจุดประสงค์เพื่อป้องกันการแสดงภาพผู้เยาว์ในเชิงเพศ และอุตสาหกรรมได้ลงทุนในมาตรฐานแหล่งที่มา เช่น ข้อมูลรับรองเนื้อหา เพื่อแยกแยะสื่อสังเคราะห์ คำตัดสินของเดนมาร์กไม่ได้เปลี่ยนแปลงภาระผูกพันด้านวิศวกรรมเหล่านั้น แต่จะเปลี่ยนแปลงเดิมพัน เมื่อศาลอุทธรณ์ยืนยันว่าการสร้างภาพในทางที่ผิดนั้นถูกดำเนินคดีเช่นเดียวกับสื่อที่เป็นภาพถ่าย ข้อโต้แย้งในการปฏิบัติต่อมาตรการป้องกันเนื้อหาที่เป็นการละเมิดถือเป็นโครงสร้างพื้นฐานด้านความปลอดภัยหลัก แทนที่จะพิจารณาทางเลือกเพิ่มเติม แทบจะเป็นเรื่องที่ไม่สามารถตอบได้

การพิจารณาคดียังมีเทมเพลตสำหรับสมาชิกสภานิติบัญญัติที่ยังคงร่างคำตอบอยู่ แทนที่จะรอให้รัฐสภาผ่านกฎเกณฑ์ใหม่ที่ระบุชื่อเนื้อหาที่สร้างโดย AI โดยเฉพาะ ศาลกำลังแสดงให้เห็นว่ากรอบการคุ้มครองเด็กที่มีอยู่สามารถดูดซับเทคโนโลยีได้ แต่ภาษาทางกฎหมายที่ชัดเจนจะช่วยขจัดความคลุมเครือที่จำเลยในคดีต่อไปจะต้องทดสอบต่อไป

ตอนนี้โทษจำคุก 18 เดือนของเด็กอายุ 31 ปียังคงยืนหยัดอยู่ และนิยายทางกฎหมายที่ว่า "ไม่มีเด็กจริงได้รับอันตราย" ได้รับความพ่ายแพ้อย่างมีนัยสำคัญต่อสาธารณะในศาลสูงของยุโรป ซึ่งเป็นสัญญาณที่สะท้อนผ่านการดำเนินคดีกับสื่อการละเมิดที่สร้างโดย AI ซึ่งอยู่นอกเหนือขอบเขตของเดนมาร์ก

รับทราบข้อมูลเกี่ยวกับระเบียบ AI

ศาลและหน่วยงานกำกับดูแลกำลังแข่งขันกันเพื่อให้ทันกับ generative AI หากต้องการรายงานที่ได้รับการยืนยันเกี่ยวกับกฎหมาย นโยบาย และการบังคับใช้ของ AI โปรดติดตาม AI Buzz Wire

อ่านข่าว AI เพิ่มเติม →