โฆษณาเพิ่มเติมมากกว่า 250 รายการที่มีเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กวิ่งบนแพลตฟอร์มของ Meta ในช่วงไม่กี่สัปดาห์หลังจากที่บริษัทเปิดตัวเครื่องมือ AI ใหม่ที่ออกแบบมาเพื่อตรวจจับและบล็อกเนื้อหาประเภทนั้นตามการวิจัยจากโครงการ Tech Transparency Project ที่ไม่แสวงหากำไรที่แชร์กับ WIRED และเผยแพร่เมื่อวันอังคาร การค้นพบนี้บั่นทอนคำกล่าวอ้างของบริษัทที่ว่าการคัดกรองโฆษณาที่ขับเคลื่อนด้วย AI ได้ปิดช่องว่างดังกล่าวไปมาก และเกิดขึ้นเมื่อฝ่ายนิติบัญญัติกล่าวว่าพวกเขาวางแผนที่จะสอบสวน

ตัวเลขใหม่นี้เป็นการขยายการเปิดเผยก่อนหน้านี้ เมื่อเดือนที่แล้ว Meta ได้ลบโฆษณาประมาณ 50 รายการที่โพสต์บน Facebook, Instagram และ Threads ซึ่งมีสื่อการล่วงละเมิดทางเพศเด็กโดยตรง ตามรายงานก่อนหน้านี้โดย WIRED ในเวลานั้น บริษัทกล่าวว่าโฆษณาที่ไม่เหมาะสมส่วนใหญ่ได้รับการเผยแพร่ก่อนที่จะใช้เครื่องมือตรวจจับ AI ใหม่ แทนที่จะคาดว่าจะลดลง นักวิจัยกล่าวว่าพวกเขาพบโฆษณามากกว่าหลายร้อยรายการในช่วงไม่กี่สัปดาห์ที่ผ่านมา รวมถึงโฆษณาที่เหมือนกับที่ Meta เพิ่งลบออกด้วย หากต้องการความคุ้มครองด้านความปลอดภัยของแพลตฟอร์มอย่างต่อเนื่องและ ข่าว AI ล่าสุด โปรดติดตาม AI Buzz Wire

ขนาดของความล้มเหลว

โดยรวมแล้ว นักวิจัยจาก Tech Transparency Project ได้บันทึกโฆษณาวิดีโอที่ไม่เหมาะสมมากกว่า 350 รายการที่ทำงานบนแพลตฟอร์มของ Meta นับตั้งแต่ปลายปีที่แล้ว ครอบคลุม Facebook, Instagram, Messenger, Threads และเครือข่ายโฆษณาที่กว้างขึ้นของ Meta ต่างจากชุดโฆษณาชุดแรก 53 ชิ้นที่กลุ่มระบุ ชุดที่ใหม่กว่ามีรูปภาพของเด็กจริงๆ แทนที่จะเป็นโฆษณาสังเคราะห์ล้วนๆ WIRED ยืนยันว่าภาพต้นฉบับหนึ่งภาพมาจากเว็บไซต์อย่างเป็นทางการของราชวงศ์ยุโรป นักวิจัยกล่าวว่ารูปถ่ายที่เผยแพร่อย่างเป็นทางการของสมาชิกผู้เยาว์ในครอบครัวถูกดัดแปลงเป็นวิดีโอที่แสดงภาพกิจกรรมทางเพศ นักวิจัยไม่ได้เอ่ยชื่อราชวงศ์เพื่อปกป้องเหยื่อ แต่ระบุว่าได้ติดต่อกับเจ้าหน้าที่ในประเทศที่เกี่ยวข้องแล้ว

Katie Paul ผู้อำนวยการของกลุ่มบอกกับ WIRED ว่าปัญหาไม่ได้จำกัดอยู่เพียงภาพที่สร้างโดย AI “สิ่งที่เรากำลังพูดถึงในที่นี้ไม่ใช่แค่เนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กที่สร้างโดย AI” เธอกล่าว พร้อมสังเกตว่ารูปภาพจำนวนมากดูเหมือนจะถูกนำมาจากเว็บแบบเปิดก่อนที่จะนำไปใช้ในโฆษณา “มีความเสียหายมากมายที่อาจเกิดขึ้นจากทั้งหมดนี้ในขณะที่ Meta กำลังทำเงินในกระบวนการนี้” นักวิจัยระบุตัวตนในโลกแห่งความเป็นจริงของผู้เยาว์ 4 คนซึ่งมีรูปภาพที่ใช้ในโฆษณา

ช่องทางเข้าสู่แอปเปลือยกาย

โฆษณาเป็นไปตามรูปแบบที่สอดคล้องกันตามการรายงาน หลายๆ คนเปิดใจกับภาพที่ไร้อันตรายของเด็กสาววัยรุ่นหรือวัยรุ่น ซึ่งนักวิจัยพบว่ามีเพียงรูปเดียวที่มีเด็กผู้ชาย โดยมีข้อความระบุว่าภาพนั้น "ไม่ใช่แค่ภาพถ่าย" และ "ไม่มีข้อจำกัด" ว่าจะทำอะไรกับภาพนั้นได้บ้าง เมื่อเล่นวิดีโอสั้น ใบหน้าของเด็กจะถูกแปลงเป็นวิดีโอที่มีเนื้อหาโจ่งแจ้ง การคลิกผ่านนำไปสู่แอป AI สลับใบหน้าและ "การเปลือยกาย" ที่มีอยู่ใน App Store ของ Apple และ Google ซึ่งหลายแห่งเชื่อมโยงกับนักพัฒนาชาวจีน WIRED แยกระบุโฆษณาภาพเปลือยที่เกี่ยวข้องหลายร้อยรายการที่แสดงภาพผู้ใหญ่บนแพลตฟอร์มของ Meta

บทวิจารณ์ช้าและการเปิดเผยข้อมูลที่ขาดหายไป

นโยบายของ Meta ระบุว่าบริษัทตรวจสอบโฆษณาทั้งหมดที่ทำงานบนแพลตฟอร์มของตน และโฆษณาละเมิดกฎเกณฑ์เกี่ยวกับการแสวงหาประโยชน์จากเด็ก การแสวงหาประโยชน์จากผู้ใหญ่ และภาพเปลือย ในทางปฏิบัติ นักวิจัยรายงานว่า บางครั้ง Meta ใช้เวลาถึงหนึ่งสัปดาห์ในการตรวจสอบโฆษณาจริงที่ได้รับการรายงานผ่านเครื่องมือของบริษัท ในระหว่างนั้นโฆษณาได้สะสมการดูเพิ่มเติมหลายร้อยครั้ง ตามภาพหน้าจอที่ได้รับการตรวจสอบโดย WIRED เมื่อโฆษณาบางรายการถูกลบออก บันทึกการลบออกในตอนแรกไม่มีการเปิดเผยใด ๆ ว่าพวกเขาละเมิดนโยบายการล่วงละเมิดทางเพศเด็กของบริษัท รายละเอียดเหล่านั้นปรากฏเฉพาะหลังจากที่ WIRED ถาม Meta เกี่ยวกับความคลาดเคลื่อน

นักวิจัยรายงานโฆษณาทุกรายการที่พวกเขาพบไปยัง CyberTipline ของศูนย์แห่งชาติเพื่อเด็กหายและถูกเอารัดเอาเปรียบ และผ่านเครื่องมือการรายงานของ Meta ไลบรารีโฆษณาของ Meta แสดงให้เห็นว่าโฆษณาดังกล่าวแสดงรวมกันในบัญชีมากกว่า 29,000 บัญชีทั่วประเทศในสหภาพยุโรปและบัญชีประมาณ 7,000 บัญชีในสหราชอาณาจักร โดยมีมากกว่า 250 บัญชีปรากฏในสหรัฐอเมริกา 120 บัญชีในออสเตรเลียและ 80 บัญชีในอินเดีย ตัวเลขดังกล่าวมีแนวโน้มการเข้าถึงทั้งหมดน้อยเกินไป เนื่องจากบางประเทศขาดข้อมูลประสิทธิภาพโฆษณาแบบละเอียด

เมตาตอบกลับ

Meta ผลักดันความสำคัญของการค้นพบนี้กลับคืนมา “เราไม่ยอมให้แอปเปลือยกายหรือการแสวงหาประโยชน์จากเด็กทุกประเภท ไม่ว่าจะเป็นของจริงหรือที่ AI สร้างขึ้น” โฆษกของบริษัท Tracy Clayton กล่าวกับ WIRED พร้อมเสริมว่าก่อนหน้านี้บริษัทได้ลบโฆษณาหลายแสนรายการเนื่องจากละเมิดนโยบายการเปลือยกาย Meta กล่าวว่าโฆษณาหลายรายการที่นักวิจัยพบได้ถูกลบออกไปแล้ว ซึ่งส่วนใหญ่ได้รับการแสดงผลน้อยกว่า 200 ครั้ง และมีการจ่ายเงินค่าโฆษณาต่ำกว่า 5,000 ดอลลาร์ บริษัทยังกล่าวอีกว่าวิดีโอที่สร้างโดย AI มีเนื้อหาสำหรับผู้ใหญ่ ในขณะที่คลิปที่เกี่ยวข้องกับผู้เยาว์นั้นสั้นหรือเบลอ ทำให้การตรวจจับยากขึ้น และรายงานเนื้อหาการแสวงหาประโยชน์จากเด็กไปยัง NCMEC

ฝ่ายนิติบัญญัติและผู้กำกับดูแลเคลื่อนไหว

ขณะนี้ผู้ร่างกฎหมายและหน่วยงานกำกับดูแลหลายแห่งกล่าวว่าพวกเขากำลังตรวจสอบหรือดูโฆษณาตามการรายงานของ WIRED Mark Warner วุฒิสมาชิกเวอร์จิเนีย ซึ่งส่งจดหมายถึง Mark Zuckerberg ซีอีโอของ Meta หลังจากการรายงานก่อนหน้านี้ กล่าวว่า "น่าผิดหวังที่ Meta ยังคงแสดงโฆษณาที่มีเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กและภาพที่ใกล้ชิดโดยไม่ได้รับความยินยอมหลังจากที่พวกเขาได้รับความสนใจ" อัยการสูงสุดของรัฐมิชิแกนกล่าวว่าสำนักงานกำลัง "ตรวจสอบเรื่องนี้อย่างจริงจัง" อัยการสูงสุดของรัฐฟลอริดาโพสต์ว่าสำนักงานของเขากำลังสืบสวน และหน่วยงานกำกับดูแล eSafety ของออสเตรเลียกล่าวว่า "มีความกังวลอย่างมาก" และได้ขอข้อมูลจาก Meta ในระดับอาวุโส

การตรวจสอบข้อเท็จจริงเพิ่มแรงกดดันให้กับบริษัทแห่งหนึ่งที่จ่ายเงินไปแล้วถึง 16.7 พันล้านดอลลาร์สหรัฐ เพื่อยุติคดีที่กล่าวหาว่าเครือข่ายโซเชียลของตนทำร้ายเด็ก และยื่นอุทธรณ์คำตัดสินของศาลนิวเม็กซิโก ที่จะต้องปรับปรุงกระบวนการรายงาน CSAM คำถามที่กว้างขึ้นสำหรับอุตสาหกรรม AI คือการกลั่นกรองอัตโนมัติสามารถตามทันการละเมิดที่ได้รับความช่วยเหลือจาก AI มากขึ้นหรือไม่ และหลักฐานที่แสดงว่าระบบการตรวจจับไม่สามารถตรวจจับโฆษณาที่ละเมิดหลายร้อยสัปดาห์หลังจากถูกอ้างถึง เนื่องจากการแก้ไขจะป้อนเข้าสู่การอภิปรายเหล่านั้นโดยตรง

ก้าวนำหน้า AI

ติดตามการพัฒนา AI ล่าสุดและข่าวด่วนเกี่ยวกับปัญญาประดิษฐ์ ในขณะที่หน่วยงานกำกับดูแลและแพลตฟอร์มต่อสู้กับอันตรายที่ขับเคลื่อนด้วย AI

อ่านข่าว AI เพิ่มเติม →