ในขณะที่สื่อที่สร้างโดย AI แพร่หลายในอินเทอร์เน็ต เทคโนโลยีลายน้ำ SynthID ของ Google ได้กลายเป็นหนึ่งในเครื่องมือที่โดดเด่นที่สุดในการแยกแยะเนื้อหาที่แท้จริงจากภาพสังเคราะห์ การทดสอบความเครียดครั้งใหม่ที่เข้มงวดยืนยันว่าลายน้ำที่มองไม่เห็นนั้นมีความทนทานอย่างน่าทึ่ง สามารถรอดพ้นจากการบีบอัด การปรับขนาด และแม้กระทั่งภาพหน้าจอหลายร้อยรอบ แต่ผลลัพธ์ที่ได้ยังตอกย้ำความจริงที่ยากกว่า: ป้ายกำกับทางเทคนิคเพียงอย่างเดียวไม่น่าจะแก้ไขวิกฤติที่เพิ่มขึ้นของข้อมูลที่บิดเบือนของ AI ได้ สำหรับการรายงานอย่างต่อเนื่องเกี่ยวกับ การพัฒนา AI ล่าสุด ข้อค้นพบนี้ถือเป็นจุดตรวจสอบที่สำคัญในการถกเถียงเรื่องแหล่งที่มาของเนื้อหา

ขนาดของปัญหานั้นยากที่จะกล่าวเกินจริง Starling Lab ซึ่งเป็นความร่วมมือด้านการวิจัยระหว่างมหาวิทยาลัยสแตนฟอร์ดและมหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนีย ประมาณการว่าต้องใช้เวลาจนถึงปี 1975 หรือ 149 ปีหลังจากการประดิษฐ์กล้องถ่ายรูป สำหรับมนุษยชาติในการผลิตภาพ 1.5 พันล้านภาพ AI เจนเนอเรชั่นตรงกับผลลัพธ์นั้นในเวลาเพียง 18 เดือน ในการประชุม I/O ในปีนี้ Google ประกาศว่ามีการใช้เครื่องมือเพียงอย่างเดียวเพื่อสร้างรูปภาพและวิดีโอ AI มากกว่า 100 พันล้านรายการภายในไม่กี่ปี

วิธีการทำงานของ SynthID

ขณะนี้มีสองแนวทางหลักในการติดป้ายกำกับเนื้อหาที่สร้างโดย AI: ลายน้ำที่มองไม่เห็น เช่น SynthID และสกีมาข้อมูลเมตา เช่น มาตรฐาน Coalition for Content Provenance and Authenticity (C2PA) Google ใช้ทั้งสองอย่าง C2PA มีความปลอดภัยแบบเข้ารหัสและไม่สามารถปลอมแปลงได้ แต่ลอกออกได้ง่ายเล็กน้อย เพียงแก้ไขและบันทึกรูปภาพ หรือถ่ายภาพหน้าจอ ก็สามารถลบข้อมูลเมตา C2PA ออกได้ทั้งหมด

SynthID ใช้แนวทางที่แตกต่างออกไป แทนที่จะอาศัยข้อมูลเมตาที่อยู่ด้านข้างไฟล์ ลายน้ำจะถูกเข้ารหัสโดยตรงลงในพิกเซลของรูปภาพหรือวิดีโอ หรือในรูปแบบคลื่นของคลิปเสียง เนื่องจากสัญญาณถูกถักทอเข้ากับเนื้อหา Google จึงแย้งว่าสัญญาณควรจะรอดพ้นจากการเปลี่ยนแปลง การบีบอัด การครอบตัด และการเข้ารหัสใหม่ที่เกิดขึ้นตามธรรมชาติเมื่อสื่อถูกส่งผ่านอินเทอร์เน็ต

การทดสอบความเครียดสำหรับสัญญาณระดับพิกเซล

Ars Technica นำคำกล่าวอ้างเหล่านั้นมาทดสอบโดยใช้สคริปต์ Python ที่สร้างจากไลบรารีภาพ Pillow สคริปต์จำลองการสูญเสียข้อมูลจากการแชร์และการดาวน์โหลดซ้ำๆ ในอัตราที่รวดเร็วอย่างมาก โดยใช้การบีบอัดแบบสุ่มและการปรับขนาดค่ากับภาพทดสอบ และป้อนเอาต์พุตแต่ละรายการกลับเข้าไปเป็นพื้นฐานสำหรับการวนซ้ำครั้งถัดไป รูปภาพที่ AI สร้างขึ้นสองภาพจากโมเดล Nano Banana Pro ของ Google หนึ่งภาพสร้างขึ้นใหม่ทั้งหมดและรูปภาพต้นฉบับหนึ่งภาพแก้ไขโดย AI ทำหน้าที่เป็นตัวแบบทดสอบ

หลังจากการแชร์จำลองกว่า 300 รุ่น ในระหว่างที่ต้นฉบับที่คมชัดถูกลดระดับลงจนแทบจะจำไม่ได้ ลายน้ำ SynthID ยังคงมีการลงทะเบียนบนทั้งสองภาพ ลายน้ำยังคงอยู่แม้กระทั่งภาพหน้าจอแบบเต็ม เนื่องจากพิกเซลเครื่องหมายพิเศษจะถ่ายโอนไปยังไฟล์ใหม่ ผู้ทดสอบทุก ๆ 50 รุ่นยังสร้างเวอร์ชันครอบตัดเพื่อลดการตรวจจับเพิ่มเติม

ในที่สุด SynthID ก็พังทลายลง

ขีดจำกัดของเทคโนโลยีเกิดขึ้นภายใต้สภาวะที่รุนแรงเท่านั้น หลังจากการบีบอัด 300 รอบ การลบพิกเซลจำนวนหนึ่งออกจากขอบของรูปภาพทดสอบที่ลดระดับลงในที่สุดก็ทำให้ SynthID เสียหายทั้งบนรูปภาพที่สร้างขึ้นอย่างสมบูรณ์และรูปภาพที่แก้ไขโดย AI เนื่องจากสัญญาณลายน้ำถูกกระจายไปทั่วพิกเซล จึงต้านทานการครอบตัดแบบทั่วไป แต่เมื่อการเสื่อมสภาพสะสมเพียงพอแล้ว ตัวตรวจจับก็สามารถเอาชนะได้

นักวิทยาศาสตร์ Google DeepMind Pushmeet Kohli บอกกับ Ars ว่าทีมงานได้ออกแบบระบบโดยคาดหวังว่ามันจะถูกโจมตี “ตลอดกระบวนการพัฒนาทั้งหมด เราสันนิษฐานว่าเทคโนโลยีประเภทนี้จะถูกโจมตี” Kohli กล่าว "ดังนั้นเราจึงทำการวิจัยมากมายเพื่อทำให้ SynthID ทนทานต่อการเปลี่ยนแปลงประเภทต่างๆ ไม่ว่าผู้คนจะเพิ่มฟิลเตอร์บางประเภทหรือครอบตัดรูปภาพ เราก็ใช้การแปลงเหล่านี้และตรวจสอบให้แน่ใจว่าตัวตรวจจับนั้นแข็งแกร่งต่อพวกเขา"

ลายน้ำขยายไปทั่วอุตสาหกรรม

การทดสอบมาถึงในขณะที่การนำ SynthID มาใช้นั้นขยายวงกว้างไปไกลกว่าผลิตภัณฑ์ของ Google เอง บริษัทได้ร่วมมือกับพันธมิตรเพื่อขยายการใช้ลายน้ำ โดยมี OpenAI, Runway และ Nvidia เป็นผู้เริ่มรวมเทคโนโลยีเข้ากับเครื่องมือสร้างสรรค์ของพวกเขา Google ไม่เต็มใจที่จะเปิดเผยรายละเอียดทางเทคนิคนอกเหนือจากรายงานการวิจัยต้นฉบับ ซึ่งเป็นเหตุผลว่าทำไมการทดสอบแบบอิสระของ Ars จึงมีความสำคัญเนื่องจากลายน้ำแพร่กระจายไปทั่วภูมิทัศน์ของ AI

ป้ายอย่างเดียวไม่พอ

ความตึงเครียดหลักที่การทดลองเปิดเผยคือ แม้แต่ลายน้ำที่ชัดเจนก็มีประโยชน์พอๆ กับความเต็มใจของแพลตฟอร์มและผู้คนในการตรวจสอบ การตรวจจับ SynthID ยังไม่ได้สร้างขึ้นในวงกว้างในโซเชียลเน็ตเวิร์กและแอพส่งข้อความที่สื่อที่ถูกดัดแปลงส่วนใหญ่แพร่กระจายจริง ลายน้ำที่คงอยู่ได้นานถึง 300 รอบการบีบอัดจะให้การป้องกันเพียงเล็กน้อย หากไม่มีคนฝั่งรับสแกนหาลายน้ำนั้น

ผลลัพธ์ด้านความทนทานเป็นสิ่งที่น่าสนับสนุนอย่างแท้จริงสำหรับฟิลด์ความถูกต้องของเนื้อหา พวกเขาแนะนำว่าลายน้ำระดับพิกเซลที่มองไม่เห็นสามารถใช้เป็นแกนหลักทางเทคนิคที่เชื่อถือได้สำหรับแหล่งที่มา แต่คำถามที่กว้างขึ้นว่าสังคมสามารถสร้างบรรทัดฐาน โครงสร้างพื้นฐาน และแรงจูงใจในการดำเนินการตามสัญญาณเหล่านั้นได้หรือไม่ ยังคงไม่ได้รับการแก้ไข เนื่องจากปริมาณสื่อสังเคราะห์ยังคงเพิ่มขึ้นอย่างต่อเนื่องจนทะลุหลัก 100 พันล้านภาพ ช่องว่างระหว่างสิ่งที่เทคโนโลยีสามารถทำเครื่องหมายได้และแพลตฟอร์มใดที่จะกลั่นกรองจึงกลายเป็นความท้าทายที่สำคัญ

ก้าวนำหน้า AI

ติดตาม ข่าวด่วน AI ที่กำหนดนโยบาย การวิจัย และแพลตฟอร์มที่ปรับเปลี่ยนอินเทอร์เน็ต

อ่านข่าว AI เพิ่มเติม