ซานฟรานซิสโกสั่งให้ Apple และ Google ลบแอป AI Nudify ที่อ้างถึงกฎหมายสื่อลามก Deepfake

อัยการเมืองซานฟรานซิสโกได้สั่งให้ Apple และ Google ลบแอปการเปลือยกายด้วยปัญญาประดิษฐ์ออกจาก App Store โดยเตือนว่าแพลตฟอร์มดังกล่าวละเมิดกฎหมายแคลิฟอร์เนียที่ห้ามบริการที่สร้างภาพอนาจารแบบ Deepfake ความต้องการดังกล่าวส่งผลให้มีการเผชิญหน้ากันมากขึ้นเกี่ยวกับเครื่องมือ AI ที่เปลี่ยนภาพถ่ายธรรมดาๆ ของคนจริงๆ ให้กลายเป็นภาพที่โจ่งแจ้ง ซึ่งเป็นวิกฤติที่ทำให้ผู้หญิงและเด็กตกเป็นเหยื่ออย่างไม่สมส่วน

ขนาดของปัญหา

แอปการเปลือยกายใช้ AI เจนเนอเรชั่นเพื่อทำให้การเปลื้องเสื้อผ้าออกจากภาพถ่ายของคนจริงๆ การเปลี่ยนแปลงคุณลักษณะ การวางในตำแหน่งทางเพศ และสลับใบหน้าไปยังร่างที่เปลือยเปล่าของผู้อื่นนั้นเป็นเรื่องง่าย เทคโนโลยีดังกล่าวแพร่กระจายอย่างรวดเร็วทั่วทั้ง App Store บนมือถือ และผลลัพธ์ที่ได้ก็ถูกนำมาใช้เพื่อกลั่นแกล้ง ทำให้อับอาย และคุกคามเหยื่อด้วยผลที่ตามมาร้ายแรง

David Chiu อัยการเมืองซานฟรานซิสโกบอกกับ Wired ว่าสำนักงานของเขารู้สึกหวาดกลัวอย่างยิ่งกับความแพร่หลายของเทคโนโลยีการเปลือยกายที่แพร่หลาย โดยเหยื่อส่วนใหญ่เป็นผู้หญิงและเด็กในระดับที่น่าตกใจเนื่องจากมีเครื่องมือมากมายหลั่งไหลเข้ามาในตลาด เขากล่าวว่ารูปภาพเหล่านี้ถูกใช้เพื่อทำลายชื่อเสียง ทำลายสุขภาพจิต และปล้นผู้ที่ตกเป็นเหยื่อของการปกครองตนเอง โดยมีเป้าหมายบางส่วนที่กลายเป็นการฆ่าตัวตาย

สิ่งที่จดหมายต้องการ

สำนักงานของ Chiu ได้ส่งจดหมายอย่างเป็นทางการถึงทั้งสองบริษัทเพื่อเตือนว่าร้านแอปของพวกเขาละเมิดกฎหมายของรัฐแคลิฟอร์เนียที่ห้ามไม่ให้มีบริการสนับสนุนที่สร้างภาพอนาจารแบบ Deepfake ตามรายงานของ Wired เขาขอให้ Google ลบแอปห้าตัว และ Apple ลบแปดแอป แอปดังกล่าวไม่ได้รับการตั้งชื่อในการรายงานต่อสาธารณะเพื่อหลีกเลี่ยงการดึงดูดผู้คนเข้าหาพวกเขา แต่ Wired ระบุว่าแอปที่ถูกตั้งค่าสถานะแอปหนึ่งมียอดดาวน์โหลดมากกว่าหนึ่งล้านครั้งและโฆษณาอย่างเปิดเผยฟีเจอร์เพื่อทำให้ภาพผู้หญิงเป็นเรื่องเพศหรือผลิตวิดีโอฟรีและไม่ถูกเซ็นเซอร์

สำนักงานของ Chiu ประเมินว่า Apple และ Google น่าจะสร้างรายได้หลายล้านดอลลาร์จากการอนุญาตให้แอปที่เป็นอันตรายยังคงอยู่ในร้านค้าของตน แทนที่จะดำเนินการที่เข้มงวดยิ่งขึ้นหรือพัฒนาระบบการตรวจจับที่ดีขึ้น อัยการเมืองระบุสถานการณ์ว่าเป็นการแสวงหาผลประโยชน์จากความรำคาญในที่สาธารณะ โดยโต้แย้งว่าการอนุญาตให้แอปดังกล่าวยังคงใช้งานได้นั้นเป็นสิ่งที่ยอมรับไม่ได้

Google ตอบกลับ Apple ยังคงเงียบ

ในแถลงการณ์ที่ส่งถึง Ars Technica โฆษกของ Google Dan Jackson ยืนยันว่าแอปทั้งห้าที่ Chiu ติดธงถูกระงับจาก Google Play Store เนื่องจากละเมิดนโยบายเกี่ยวกับเนื้อหาที่เป็นอันตราย Jackson กล่าวว่า Google Play ไม่อนุญาตแอปที่มีเนื้อหาเกี่ยวกับเรื่องเพศ และบริษัทดำเนินการตามขั้นตอนเชิงรุกอย่างต่อเนื่องเพื่อตรวจจับและลบแอปที่มีเนื้อหาที่เป็นอันตราย เมื่อมีการรายงานการละเมิด Jackson กล่าวว่า Google จะตรวจสอบและดำเนินการอย่างรวดเร็ว ซึ่งรวมถึงการระงับแอปที่ละเมิดหลายร้อยรายการ และจำกัดคำค้นหาที่เกี่ยวข้อง เช่น nudify ในร้านค้า

การตอบสนองของ Apple แตกต่างอย่างเห็นได้ชัด แม้ว่าบริษัทจะลบแอปบางตัวที่นักวิจัยตั้งค่าสถานะไว้ในอดีต แต่ก็ยังเงียบอยู่อย่างเห็นได้ชัดท่ามกลางการเรียกร้องให้แอปเปลือยกายของตำรวจใน App Store ก้าวร้าวมากขึ้น ผู้ผลิต iPhone ไม่ได้ให้คำตอบต่อสาธารณะโดยละเอียดต่อข้อเรียกร้องของอัยการเมืองในทันที

เกมตรวจจับแมวจับหนู

ความท้าทายในการตรวจสอบแอปเหล่านี้ประกอบขึ้นด้วยกลยุทธ์ที่พัฒนาอย่างต่อเนื่อง Wired รายงานว่านักวิจัยได้เตือนเมื่อเร็ว ๆ นี้แอปที่เป็นอันตรายบางแอปสามารถหลบเลี่ยงการลบ App Store ได้ดีขึ้น โดยการโฆษณาเฉพาะฟีเจอร์การสลับใบหน้า ในขณะเดียวกันก็ปกปิดความสามารถในการเปลือยกาย ในรายงานก่อนพิมพ์เดือนพฤษภาคม นักวิจัยระบุแอป 420 รายการที่วางตลาดเป็นเครื่องมือสลับใบหน้าทั่วไป และทดสอบแอป 155 รายการ ในกรณีมากกว่า 70 เปอร์เซ็นต์ แอปเหล่านี้สามารถใช้เพื่อทำให้รูปภาพกลายเป็นเรื่องทางเพศได้ ซึ่งแสดงให้เห็นว่าฟังก์ชันที่เป็นอันตรายซ่อนอยู่หลังการตลาดที่ไม่เป็นอันตรายได้ง่ายเพียงใด

ช่องว่างในการตรวจจับนี้หมายความว่าแม้ว่า App Store จะทำการค้นหาเครื่องมือ nudify ในเชิงรุก แต่ก็มีหลายรายที่พลาดไปโดยนำเสนอตัวเองว่าเป็นซอฟต์แวร์เพื่อความบันเทิงหรือแก้ไขรูปภาพที่ไม่เป็นอันตราย การค้นพบของนักวิจัยชี้ให้เห็นว่าจำนวนแอปที่มีปัญหาที่แท้จริงในการเผยแพร่มีแนวโน้มสูงกว่าแอปทั้ง 13 แอปที่สำนักงานของ Chiu ระบุเอาไว้มาก

แบบอย่าง Grok

การปราบปรามแอปเปลือยยังขัดแย้งกับการถกเถียงในวงกว้างเกี่ยวกับเนื้อหาที่เป็นอันตรายที่สร้างโดย AI ในสัปดาห์นี้ xAI ได้ยื่นฟ้องเพื่อยืนยันว่าได้พบตัวอย่างเนื้อหาการล่วงละเมิดทางเพศเด็กที่ Grok สร้างขึ้นและภาพส่วนตัวที่ไม่ได้รับการยินยอมซึ่งมุ่งเป้าไปที่ผู้ใหญ่ เพื่อแก้ไขการใช้งานในทางที่ผิด xAI ได้ฟ้องผู้ใช้ที่ถูกกล่าวหาว่ารับผิดชอบในการแจ้งให้ Grok สร้างเนื้อหาที่ผิดกฎหมาย

คดี Grok ทำให้เกิดคำถามที่ยุ่งยากกว่าสำหรับ App Store: แชทบอท AI ที่สามารถแจ้งให้ผลิตเนื้อหาที่ผิดกฎหมายควรถูกลบออกหรือไม่ มีรายงานว่า Apple บอกกับวุฒิสมาชิกในเดือนเมษายนว่าได้ขู่เป็นการส่วนตัวที่จะลบ Grok ออกจาก App Store ตามรายงานของ NBC News แต่แอป xAI ยังคงมีให้บริการในปัจจุบัน ตราบใดที่เป็นไปได้ที่จะใช้ Grok เพื่อสร้างเนื้อหาที่ผิดกฎหมาย App Store ก็มีแนวโน้มที่จะเผชิญกับแรงกดดันในการดำเนินการต่อไป เช่นเดียวกับที่ Chiu เรียกร้องให้มีแอปเปลือยกายแบบสแตนด์อโลน

จุดเปลี่ยนสำหรับความรับผิดชอบของแพลตฟอร์ม

คำสั่งของซานฟรานซิสโกถือเป็นการแทรกแซงของรัฐบาลที่ก้าวร้าวที่สุดครั้งหนึ่งโดยกำหนดเป้าหมายไปที่ App Store บนเนื้อหาที่เป็นอันตรายที่สร้างโดย AI Chiu กำลังทดสอบว่ากฎเกณฑ์ของรัฐสามารถบังคับให้ผู้ให้บริการแพลตฟอร์มรับผิดชอบต่อเครื่องมือ AI ที่เผยแพร่ผ่านตลาดของตนได้หรือไม่ ด้วยการบังคับใช้กฎหมายสื่อลามกปลอมแปลงเชิงลึกของรัฐแคลิฟอร์เนีย

ผลลัพธ์ที่ได้อาจเป็นแบบอย่างว่าเขตอำนาจศาลอื่นๆ จัดการกับปัญหาอย่างไร และภาระของการตรวจตราภาพที่ไม่ได้รับความยินยอมจาก AI ตกเป็นของนักพัฒนา ผู้ดำเนินการแพลตฟอร์ม หรือทั้งสองอย่างหรือไม่ สำหรับคนนับล้าน โดยส่วนใหญ่เป็นผู้หญิงและเด็กผู้หญิง ซึ่งตกเป็นเป้าหมายของเครื่องมือเหล่านี้ ความเสี่ยงมีมากกว่าทฤษฎีด้านกฎระเบียบ

ก้าวนำหน้า AI

หากต้องการความคุ้มครองอย่างต่อเนื่องเกี่ยวกับหลักจริยธรรมของ AI ความรับผิดชอบของแพลตฟอร์ม และการต่อสู้ด้านกฎระเบียบเกี่ยวกับสื่อสังเคราะห์ที่เป็นอันตราย โปรดติดตาม AI Buzz Wire เพื่อรายงานเกี่ยวกับประเด็นที่ส่งผลต่อผลกระทบของ AI ต่อสังคม

อ่านข่าวจริยธรรม AI เพิ่มเติม →