ตัวแทนจาก OpenAI และ Meta Platforms กล่าวกับคณะตุลาการของรัฐบาลกลางเมื่อวันพฤหัสบดีว่า Deepfakes ที่สร้างโดย AI มีความก้าวหน้ามากจนการตรวจสอบความถูกต้องของหลักฐานเสียงและวิดีโอในศาลจะยากขึ้น Reuters รายงาน

ผู้เชี่ยวชาญด้านเทคโนโลยีนำเสนอข้อกังวลของตนในการประชุมที่บอสตันของ คณะกรรมการที่ปรึกษาด้านหลักฐานของการประชุมตุลาการแห่งสหรัฐอเมริกา ซึ่งเป็นหน่วยงานที่รับผิดชอบในการแนะนำการเปลี่ยนแปลงกฎเกณฑ์ของรัฐบาลกลางที่ควบคุมสิ่งที่ศาลหลักฐานสามารถยอมรับได้ คณะกรรมการได้ทำงานมาตั้งแต่ปี 2023 ในการจัดการกับความเสี่ยงของการปลอมแปลงหลักฐานที่สร้างโดย AI ในห้องพิจารณาคดี For more context on this story, see our ongoing latest AI developments.

AI Labs กล่าวว่าการตรวจจับไม่มีอนาคตทางวิทยาศาสตร์

Shira Anderson ที่ปรึกษาด้านนโยบายของ OpenAI กล่าวกับคณะกรรมการว่าภาพ AI ยังคงปรับปรุงคุณภาพอย่างต่อเนื่อง และกล่าวว่าเธอไม่เชื่อว่าวิธีการทางวิทยาศาสตร์ในการตรวจจับจะมีอยู่จริงในอนาคต ถือเป็นการยอมรับอย่างน่าทึ่งจากบริษัทที่สร้างระบบกำเนิดที่ผลิตเนื้อหานั้น

Devin Norder ผู้อำนวยการฝ่ายบริหารผลิตภัณฑ์ของ Meta กล่าวกับคณะผู้อภิปรายว่าสื่อที่สร้างขึ้นโดยโมเดล AI ล่าสุดไม่สามารถแยกความแตกต่างโดยมนุษย์จากเนื้อหาที่แท้จริงได้ และการสร้างสื่อดังกล่าวในปัจจุบันต้องใช้ต้นทุนและเวลาที่น้อยที่สุด

ทั้งสองบริษัทได้พัฒนาเครื่องมือแหล่งที่มาและการตรวจสอบสำหรับเนื้อหาภาพ และกฎหมายใหม่ในแคลิฟอร์เนียและสหภาพยุโรปกำหนดให้ต้องมีการใส่ลายน้ำของสื่อที่สร้างโดย AI แต่แอนเดอร์สันเตือนคณะกรรมการว่าแต่ละบริษัทใช้ระบบของตัวเอง ซึ่งหมายความว่าไม่มีวิธีการสากลในการตรวจจับลายน้ำทั้งหมดได้อย่างน่าเชื่อถือ หรือตรวจสอบความถูกต้องของเนื้อหาภาพทั่วทั้งระบบนิเวศ

ศาลยังไม่รู้สึกถึงคลื่น

เจสซี เฟอร์แมน ประธานคณะกรรมการของสหรัฐอเมริกา ผู้พิพากษาเขตของแมนฮัตตัน เสนอข้อโต้แย้งต่อสัญญาณเตือนภัยนี้ แม้ว่าคำวิจารณ์ทางวิชาการจะคาดการณ์ว่าศาลจะจัดการกับ Deepfakes แต่ปัญหานี้ก็ยังไม่ปรากฏบ่อยนักในกรณีที่เกิดขึ้นจริง

การสำรวจที่จัดทำโดย Federal Judicial Center ในเดือนมีนาคมเน้นย้ำถึงช่องว่างดังกล่าว ผู้พิพากษาเพียง 15 คนจากทั้งหมด 931 คน ที่ตอบกลับเคยเผชิญกับคดีที่ฝ่ายหนึ่งโต้แย้งหลักฐานโดยอ้างว่าเป็นของปลอม

ช่องว่างระหว่างการคาดการณ์และการปฏิบัตินั้นเป็นประเด็นที่กลืนไม่เข้าคายไม่ออกหลักของคณะกรรมการ ภายใต้กฎเกณฑ์หลักฐานของรัฐบาลกลาง 901 และ 902 มาตรฐานที่มีอยู่สำหรับการตรวจสอบหลักฐานนั้น (ดังที่รายงานของคณะกรรมการเองระบุไว้) นั้น ค่อนข้างเข้มงวด: ฝ่ายต่างๆ ต้องการเพียงสร้างหลักฐานที่เพียงพอเพื่อสนับสนุนการค้นพบว่ารายการนั้นเป็นสิ่งที่ผู้เสนออ้างว่าเป็น Deepfakes ทดสอบความเครียดตามมาตรฐานนั้น เนื่องจากเส้นทางดั้งเดิมในการตรวจสอบความถูกต้องของการบันทึก (คำให้การของพยาน เอกสารประกอบของระบบ) ถือว่าการปลอมแปลงในวงกว้างนั้นยาก มีราคาแพง และตรวจพบได้

การรายงานของคณะกรรมการเองได้ตีกรอบปัญหาด้วยความตรงไปตรงมาผิดปกติ รายงานประจำเดือนธันวาคม 2568 ตรวจสอบว่าเกิดอะไรขึ้นเมื่อวิดีโอหรือเสียงที่นำเสนอในช่วงทดลองใช้งานเป็น Deepfake โดยสรุปว่าเป็นความท้าทายโดยตรงต่อข้อกำหนดด้านความถูกต้องตามกฎหมายภายใต้กฎ 901 และ 902 อย่างชัดเจน เนื่องจากมาตรฐานความถูกต้องที่มีอยู่นั้นไม่รุนแรง จะทำให้มาตรฐานนั้นแข็งแกร่งขึ้นได้อย่างไรและหรือไม่เป็นคำถามที่คณะกรรมการได้วนเวียนมาเป็นเวลาสามปีแล้ว และจะกลายเป็นเรื่องเร่งด่วนมากขึ้นหากตามที่ตัวแทนห้องปฏิบัติการเตือน วิทยาศาสตร์การตรวจจับไม่เคยตามทันวิทยาศาสตร์รุ่น

สิ่งที่ผู้ปฏิบัติงานสามารถทำได้ตอนนี้

จนกว่ากฎจะเปลี่ยนไป ภาระในทางปฏิบัติจะตกอยู่กับผู้ดำเนินคดีและผู้ตัดสินพิจารณาคดี เครื่องมือพิสูจน์ตัวตน — ข้อมูลรับรองเนื้อหาที่เข้ารหัสลับที่ฝังอยู่ในเวลาสร้าง — กำลังแพร่กระจายผ่านแอพกล้องและซอฟต์แวร์สร้างสรรค์ แม้ว่าจะช่วยได้เฉพาะกับสื่อที่พกพาเครื่องมือเหล่านั้นเท่านั้น การตรวจสอบไขว้ภายใต้คำสาบานของบุคคลที่บันทึกเสียง ความต้องการในการค้นพบไฟล์ต้นฉบับและข้อมูลเมตาของการสร้าง และการตรวจสอบคลิปที่ไม่มีแหล่งที่มาที่เผยแพร่บนแพลตฟอร์มโซเชียลอย่างใกล้ชิดยิ่งขึ้น ถือเป็นการป้องกันในปัจจุบัน ข้อความของคณะกรรมการที่ปรึกษาในสัปดาห์นี้มีประสิทธิผลว่าการหยุดชั่วคราวเหล่านี้จะต้องมีรากฐานระดับกฎที่เป็นทางการ เนื่องจากส่วนที่ไม่เป็นทางการถือว่าสามารถตรวจจับได้ว่า OpenAI และ Meta กล่าวว่าไม่มีอยู่อีกต่อไป

เหตุใดคำให้การของ Labs จึงมีความสำคัญ

เป็นที่น่าสังเกตว่าบริษัทที่มีผลิตภัณฑ์ที่สร้างความเสี่ยงคือบริษัทที่เตือนตุลาการเกี่ยวกับเรื่องนี้ OpenAI และ Meta มีผลประโยชน์ทางการค้าและชื่อเสียงโดยตรงเกี่ยวกับวิธีการใช้กฎ: ข้อกำหนดการตรวจสอบสิทธิ์ที่เข้มงวดอาจสร้างความขัดแย้งในการใช้สื่อ AI ที่ถูกต้องตามกฎหมาย ในขณะที่ข้อกำหนดที่หละหลวมสามารถสร้างเครื่องมือในการฉ้อโกงในห้องพิจารณาคดีได้ ข้อความของพวกเขาถึงคณะกรรมการแสดงให้เห็นอย่างมีประสิทธิภาพว่ามาตรฐานแหล่งที่มา เช่น ลายน้ำ ข้อมูลรับรองเนื้อหา เอกสารห่วงโซ่การควบคุม เป็นเส้นทางที่ใช้การได้ เนื่องจากการตรวจจับเพียงอย่างเดียวจะไม่ปรับขนาด

การทบทวนระยะเวลาสามปีของคณะกรรมการคาดว่าจะแจ้งให้ทราบว่ากฎหลักฐานของรัฐบาลกลางจำเป็นต้องมีการแก้ไขสำหรับยุค AI หรือไม่ การเปลี่ยนแปลงใดๆ จะต้องผ่านกระบวนการกำหนดกฎเกณฑ์ของการประชุมตุลาการ ซึ่งรวมถึงความคิดเห็นสาธารณะ ก่อนที่จะไปที่สภาคองเกรส

ภาพกฎระเบียบที่กว้างขึ้น

การไต่สวนเกิดขึ้นท่ามกลางกิจกรรมนโยบายที่เกี่ยวข้องกับการปลอมแปลงอย่างล้นหลาม แคลิฟอร์เนียและสหภาพยุโรปได้ออกคำสั่งให้ใส่ลายน้ำ เดนมาร์กมีกฎหมายขั้นสูงที่ห้ามการแบ่งปัน AI Deepfakes โดยไม่ได้รับความยินยอม ศาลสหรัฐฯ ได้เห็นการประดิษฐ์ที่ประดิษฐ์โดย AI ปรากฏขึ้นในการยื่นฟ้อง และผู้พิพากษาได้อนุมัติทนายความที่ส่งการอ้างอิงปลอมที่สร้างโดยแชทบอท

ในตอนนี้ ฝ่ายตุลาการของรัฐบาลกลางกำลังเลือกการศึกษาอย่างรอบคอบเกี่ยวกับการเปลี่ยนแปลงกฎเกณฑ์ที่รวดเร็ว แต่คำให้การจากบริษัทต่างๆ ที่สร้างเทคโนโลยีนี้ ชี้ให้เห็นว่าอุตสาหกรรมเองไม่ได้คาดหวังว่าเครื่องมือตรวจจับจะก้าวทัน ซึ่งเปลี่ยนภาระไปสู่มาตรฐานแหล่งที่มา การป้องกันตามขั้นตอน เช่น ข้อกำหนดในการให้การเป็นพยานแบบเรียลไทม์ และท้ายที่สุดคือการตัดสินของผู้พิพากษาและคณะลูกขุนเกี่ยวกับสิ่งที่จะเชื่อ

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →