การศึกษาของ MIT พบว่ารูปภาพที่สร้างโดย AI มักไม่สามารถติดตามไปยังข้อมูลการฝึกอบรมใดๆ ได้

การศึกษาใหม่จากนักวิทยาศาสตร์คอมพิวเตอร์ของ MIT ที่ตีพิมพ์ใน Nature Communications เมื่อวันอังคารที่ผ่านมา นำเสนอการค้นพบที่สามารถเปลี่ยนรูปแบบการถกเถียงเรื่องลิขสิทธิ์ AI ได้ เนื่องจากแบบจำลองการแพร่กระจายได้รับการฝึกอบรมเกี่ยวกับข้อมูลมากขึ้น ผลลัพธ์ของพวกเขาจึงเป็นไปไม่ได้มากขึ้นที่จะติดตามกลับไปยังสื่อการฝึกอบรมเฉพาะใดๆ นักวิจัยเรียกปรากฏการณ์นี้ว่า "การระบุแหล่งที่มาลดลง" สำหรับผู้อ่านที่ติดตามโลกที่เปลี่ยนแปลงไปอย่างรวดเร็วของ generative AI บทความนี้เป็นหนึ่งในผลการวิจัยที่เป็นผลสืบเนื่องมากขึ้นซึ่งครอบคลุมในสัปดาห์นี้โดย AI Buzz Wire

บทความเรื่อง "Outputs of Generative Diffusion Models are บ่อยครั้งที่ไม่สามารถระบุแหล่งที่มาได้" ประพันธ์โดย Zheng Dai และ David K. Gifford ซึ่งทั้งสองคนอยู่ในเครือของ Computer Science and Artificial Intelligence Laboratory (CSAIL) ของ MIT คำถามหลักของพวกเขานั้นง่ายมาก: เมื่อแบบจำลองกำเนิดสร้างภาพ คุณสามารถค้นหารายการเฉพาะในข้อมูลการฝึกอบรมที่รับผิดชอบผลลัพธ์นั้นได้หรือไม่

สิ่งที่นักวิจัยพบ

คำตอบที่เพิ่มขึ้นคือไม่ นักวิจัยแสดงให้เห็นว่าการระบุแหล่งที่มาซึ่งหมายถึงงานในการค้นหาส่วนหนึ่งของข้อมูลการฝึกอบรมที่สามารถรับผิดชอบต่อตัวอย่างที่สร้างขึ้น "อาจเป็นไปไม่ได้หากแบบจำลองได้รับการฝึกฝนบนคลังข้อมูลที่มีขนาดใหญ่เพียงพอ"

"เราพบว่ายิ่งมีการฝึกอบรมโมเดลข้อมูลมากเท่าไร ตัวอย่างที่สร้างขึ้นก็จะยิ่งมีแหล่งที่มาน้อยลงเท่านั้น ปรากฏการณ์ที่เราต่อจากนี้ไปจะเรียกว่าการระบุแหล่งที่มาลดลง" ผู้เขียนเขียน

เพื่อทดสอบสิ่งนี้ ทีมงานได้พัฒนาวิธีการ "ทำลาย" ซึ่งช่วยให้สามารถลบตัวอย่างการฝึกอบรมเฉพาะออกจากแบบจำลองที่ได้รับการฝึกอบรมแล้วโดยไม่ต้องมีการฝึกอบรมขึ้นใหม่ซึ่งมีค่าใช้จ่ายสูง จากนั้นพวกเขาจึงทำการทดลองแบบ what-if ในวงกว้าง: โมเดลจะสร้างอะไรได้บ้างหากภาพใดภาพหนึ่งหรือผลงานของผู้สร้างทั้งหมดไม่เคยอยู่ในชุดการฝึกอบรมมาก่อน

ในผลลัพธ์ที่โดดเด่นที่สุดของการศึกษาบางส่วน นักวิจัยพบว่าสำหรับแบบจำลองที่ได้รับการฝึกบนชุดข้อมูลขนาดใหญ่เพียงพอ พวกเขาสามารถลบ Mona Lisa หรือแม้แต่งานทั้งหมดของ Leonardo da Vinci ออกได้ และแบบจำลองยังคงสามารถสร้างภาพหรือสไตล์ทางศิลปะได้ ไม่มีรายการฝึกอบรมใดที่รับผิดชอบต่อผลลัพธ์ที่ได้

เหตุใดจึงสำคัญสำหรับการดำเนินคดีด้านลิขสิทธิ์

การค้นพบนี้เกิดขึ้นท่ามกลางสนามรบทางกฎหมายที่กำลังดำเนินอยู่ โมเดลการแพร่กระจาย เช่น Midjourney และ Stable Diffusion ดึงดูดคดีความจากศิลปินที่โต้แย้งว่าสำเนางานของพวกเขาในข้อมูลการฝึกอบรมทำให้ระบบ AI สามารถสร้างผลงานและสไตล์ได้

ในคดีลิขสิทธิ์ที่ดำเนินอยู่คดีหนึ่งตั้งแต่ปี 2023 Andersen และคณะ v. Stability AI Ltd. โจทก์พยายามบังคับให้ Midjourney เปิดเผยชุดข้อมูลที่ใช้ในการฝึกโมเดลของตน พวกเขากล่าวหาว่า Midjourney ได้สร้างชุดฝึกอบรมขึ้นมา "โดยการคัดลอกรูปภาพที่เกี่ยวข้องกับชื่อศิลปินที่เฉพาะเจาะจงเพื่อจุดประสงค์ในการทำให้โมเดลสามารถเลียนแบบเนื้อหาที่แสดงออกของศิลปินเหล่านั้นได้"

การศึกษาของ MIT ชี้ให้เห็นว่าการสร้างการเชื่อมโยงเชิงสาเหตุดังกล่าวอาจเป็นไปไม่ได้ในทางเทคนิคในวงกว้าง ตามที่ The Register ซึ่งรายงานรายละเอียดของการศึกษาเป็นครั้งแรก ระบุว่า การวิจัยมีแนวโน้มที่จะทำให้การควบคุม AI ยากขึ้นมากกว่าง่ายขึ้น ซึ่งตรงกันข้ามกับสิ่งที่ผู้เขียนคาดหวังเมื่อเริ่มทำงาน

คำถามเกี่ยวกับการใช้งานที่เหมาะสม

ในการแถลงข่าวของ MIT กิฟฟอร์ดโต้แย้งข้อค้นพบที่ตัดทั้งสองทาง หากผลลัพธ์ที่สร้างขึ้นไม่เกี่ยวข้องกับข้อมูลการฝึกแต่ละชิ้น แบบจำลองอาจเป็นความคิดสร้างสรรค์อย่างแท้จริง ไม่ใช่แค่เครื่องคัดลอกเท่านั้น

“นั่นทำให้เกิดคำถามเกี่ยวกับการใช้งานโดยชอบธรรม เกี่ยวกับว่าผลงานนั้นมีลิขสิทธิ์ในฐานะผลงานนวนิยายหรือไม่ และเกี่ยวกับวิธีที่ผู้เขียนได้รับการชดเชยเมื่อสิ่งที่ออกมาจากแบบจำลองนั้นไม่ได้เกี่ยวข้องกับสิ่งใดๆ บนอินเทอร์เน็ต” กิฟฟอร์ดกล่าว

ผลกระทบมีมากกว่าการสร้างภาพ แบบจำลองการแพร่กระจายได้กลายเป็นสถาปัตยกรรมที่โดดเด่นสำหรับการสร้างสื่อภาพและเสียง และมีการใช้มากขึ้นในการใช้งานทางวิทยาศาสตร์ รวมถึงการสร้างแบบจำลองโครงสร้างโปรตีนและการค้นพบทางการรักษา เครื่องมือการระบุแหล่งที่มายังได้รับการเสนอสำหรับการยกเลิกการเรียนรู้ของเครื่อง การตรวจจับข้อมูลเป็นพิษ การตีความแบบจำลอง การตรวจสอบความเป็นธรรม และการปฏิบัติตามความเป็นส่วนตัว

คำเตือนสำหรับการเริ่มต้นการระบุแหล่งที่มา

การศึกษายังให้ความสำคัญกับอุตสาหกรรมที่กำลังเติบโตของแหล่งที่มาของ AI และเครื่องมือตรวจสอบเนื้อหา นักวิจัยพบว่าการระบุแหล่งที่มาตามความคล้ายคลึงกัน - การจับคู่ผลลัพธ์ที่สร้างขึ้นกับภาพการฝึกอบรมที่มีลักษณะคล้ายกัน - ก่อให้เกิดการระบุแหล่งที่มาที่ผิดพลาดในระบบข้อมูลการฝึกอบรมขนาดใหญ่

กล่าวอีกนัยหนึ่ง เครื่องมือที่อ้างว่า "รูปภาพ AI นี้มาจากแฟ้มผลงานของศิลปินคนนั้น" อาจผิดพลาดได้เมื่อมีการฝึกฝนโมเดลกับรูปภาพนับพันล้านภาพ สำหรับแพลตฟอร์ม ศาล และหน่วยงานกำกับดูแลที่อาศัยการระบุแหล่งที่มาทางเทคนิคเพื่อระงับข้อพิพาทเกี่ยวกับแหล่งที่มา ผลลัพธ์ของ MIT ชี้ให้เห็นว่าความแน่นอนดังกล่าวอาจไม่สามารถเข้าถึงได้สำหรับโมเดลระดับแนวหน้า

อะไรจะเกิดขึ้นต่อไป

บทความนี้คาดว่าจะถูกอ้างถึงในการดำเนินคดีและการอภิปรายนโยบายที่กำลังดำเนินอยู่ รวมถึงการอภิปรายเกี่ยวกับข้อกำหนดด้านความโปร่งใสของพระราชบัญญัติ AI ของสหภาพยุโรป และข้อเสนอสำหรับระบบค่าตอบแทนของศิลปิน หากการระบุแหล่งที่มาลดลงสำหรับรูปแบบการผลิตที่ใหญ่ที่สุด แผนการจ่ายค่าตอบแทนตามการติดตามผลลัพธ์ไปยังงานเฉพาะอาจจำเป็นต้องได้รับการออกแบบใหม่โดยใช้สิทธิ์การใช้งานแบบรวม แทนที่จะเป็นการติดตามระดับรายการ

การศึกษายังทำให้เกิดประเด็นที่ละเอียดอ่อนสำหรับนักพัฒนา AI อีกด้วย นั่นคือ ความสามารถในการไม่สามารถระบุแหล่งที่มาได้จริงอาจเสริมสร้างข้อโต้แย้งเกี่ยวกับการใช้งานโดยชอบธรรมสำหรับการฝึกอบรมเกี่ยวกับข้อมูลที่มีลิขสิทธิ์ ขณะเดียวกันก็บ่อนทำลายความสามารถของศิลปินในการพิสูจน์ความเสียหายเฉพาะจากผลลัพธ์แต่ละรายการ การต่อสู้ด้านลิขสิทธิ์ทั้งสองฝ่ายจะพบบางสิ่งเพื่อใช้ในข้อมูล

ก้าวนำหน้า AI

หากต้องการดูการวิจัยและการวิเคราะห์ AI ที่สำคัญเพิ่มเติม โปรดไปที่ AI Buzz Wire เพื่อดูการรายงานข่าวรายวันเกี่ยวกับอุตสาหกรรม AI

อ่านข่าว AI เพิ่มเติม →