OpenAI ประกาศเมื่อวันที่ 5 ตุลาคมว่าจะเริ่มเพิ่มลายน้ำที่มองไม่เห็นให้กับข้อความที่สร้างโดย ChatGPT และ Codex สำหรับผู้ใช้ในสหภาพยุโรป ซึ่งเป็นการตอบสนองต่อกฎแหล่งที่มาของข้อความของ EU AI Act อย่างเป็นรูปธรรม ในบล็อกโพสต์ชื่อ "แนวทางของเราในการใช้กฎแหล่งที่มาของข้อความของสหภาพยุโรป" บริษัท กล่าวว่าลายน้ำจะเปิดตัว "ในอีกไม่กี่สัปดาห์ข้างหน้า" สำหรับผลลัพธ์ที่มีสิทธิ์ในกลุ่ม แผนรายงานในวันเดียวกันโดย TechCrunch, The Verge, BleepingComputer, Engadget และร้านอื่น ๆ
เทคโนโลยีที่อยู่เบื้องหลังการเปลี่ยนแปลงนี้เรียกว่า textGrain แทนที่จะฝังเครื่องหมายที่มองเห็นได้ textGrain ทำงานโดยควบคุมตัวเลือกคำของโมเดลอย่างละเอียด เพื่อให้ข้อความที่ได้มีรูปแบบทางสถิติที่สามารถตรวจพบได้ในภายหลัง ผู้อ่านจะไม่สังเกตเห็นอะไรเลยเมื่อบริโภคหรือคัดลอกข้อความที่สร้างโดย AI การตรวจจับจำเป็นต้องเข้าถึงตัวตรวจจับของ OpenAI ซึ่งไม่สามารถใช้งานได้กับบุคคลทั่วไป หากต้องการดูภาพรวมว่าหน่วยงานกำกับดูแลและห้องปฏิบัติการขัดแย้งกันเรื่องกฎ AI อย่างไร โปรดปฏิบัติตามความคุ้มครองนโยบาย AI ที่กำลังดำเนินอยู่ของเรา
ลายน้ำลายน้ำข้อความทำงานอย่างไร
วิธีการของ OpenAI ปรับเปลี่ยนกระบวนการเลือกโทเค็นระหว่างการสร้าง บริษัทกล่าวว่า textGrain "เปลี่ยนแปลงตัวเลือกคำของโมเดลเล็กน้อยเพื่อสร้างรูปแบบทางสถิติที่สามารถตรวจพบได้ในภายหลัง" ตามรายงานของ BleepingComputer ลายน้ำจะไม่ปรากฏให้เห็นเมื่ออ่านหรือคัดลอกข้อความ และ OpenAI อ้างว่าไม่ได้ลดคุณภาพงานพิมพ์
ด้านการตรวจจับถูกจำกัดโดยเจตนา นอกเหนือจากการเปิดตัวลายน้ำแล้ว OpenAI ยังเปิดแอปพลิเคชันสำหรับเครื่องตรวจจับลายน้ำ แต่ในขั้นต้นการเข้าถึงจะถูกจำกัดไว้สำหรับนักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับอนุมัติเท่านั้น การออกแบบดังกล่าวทำให้ความสามารถในการตรวจจับอยู่ในมือของใครก็ตามที่หวังจะใช้เป็นอาวุธ แต่ยังหมายความว่าผู้จัดพิมพ์ ครู และนายจ้างไม่สามารถตรวจสอบได้อย่างอิสระว่าข้อความนั้นมีลายน้ำหรือไม่
การเข้าถึง API เป็นแบบเลือกใช้ทั่วโลก
อาณัติของสหภาพยุโรปใช้กับเอาต์พุต ChatGPT และ Codex ในกลุ่ม แต่ OpenAI ให้ทางเลือกแก่นักพัฒนาทุกที่ไปพร้อมๆ กัน ตั้งแต่วันที่ 5 ตุลาคม นักพัฒนา API ทั่วโลกสามารถเลือกใช้ลายน้ำข้อความสำหรับรุ่นที่รองรับ คุณลักษณะนี้ยังคงปิดใช้งานตามค่าเริ่มต้นบน API ซึ่งเป็นการตัดสินใจของ The New Stack ที่เน้นว่าตรงกันข้ามกับแนวทางของ Anthropic ซึ่งเปิดใช้การทำเครื่องหมายแหล่งที่มาสำหรับการรับส่งข้อมูลของสหภาพยุโรปเมื่อต้นปีนี้เพื่อตอบสนองต่อกฎเดียวกัน
ท่าทีการเลือกใช้ดังกล่าวจะสร้างความมั่นใจให้กับนักพัฒนาที่กังวลเกี่ยวกับผลข้างเคียงที่ไม่คาดคิด ลายน้ำทางสถิติจะเปลี่ยนวิธีการสุ่มตัวอย่างโทเค็น และการปรับเปลี่ยนการสร้างใดๆ ก็ตามจะมีความเสี่ยงทางทฤษฎีเป็นอย่างน้อยในการเปลี่ยนแปลงพฤติกรรมบน Edge Case ด้วยการทำให้ลายน้ำกลายเป็นธงแทนที่จะเป็นค่าเริ่มต้น OpenAI จึงโอนการตัดสินใจด้านการปฏิบัติตามข้อกำหนดไปยังบริษัทต่างๆ ที่สร้างโมเดลของตน
เหตุใดพระราชบัญญัติ AI ของสหภาพยุโรปจึงบังคับใช้สิ่งนี้
ข้อกำหนดด้านความโปร่งใสของ EU AI Act กำหนดให้ข้อความที่สร้างโดย AI ต้องระบุได้ว่าสร้างขึ้นโดยเครื่องจักร ซึ่งเป็นข้อผูกพันที่ผลักดันทั้ง OpenAI และ Anthropic ไปสู่แผนการใส่ลายน้ำทางสถิติ โพสต์ในบล็อกของ OpenAI กำหนดกรอบ textGrain เป็นการดำเนินการตามข้อกำหนดแหล่งที่มาเหล่านั้น และ PYMNTS รายงานการเปิดตัวในฐานะการประชุม OpenAI ตาม "ข้อบังคับของ EU AI Act" โดยตรง
จังหวะเวลาเป็นที่น่าสังเกต การประกาศลายน้ำเกิดขึ้นท่ามกลางความปั่นป่วนที่ผิดปกติสำหรับท่าทีสาธารณะของ OpenAI: วงจรข่าวเดียวกันทำให้ผู้นำด้านความปลอดภัย David Robinson ต้องจากไป การสอบสวน FTC เกี่ยวกับความเสี่ยงของผู้บริโภคที่ห้องปฏิบัติการ AI ที่สำคัญ และบรรยากาศการฟ้องร้องของผู้ถือหุ้นที่ทำให้บริษัทอยู่ภายใต้การตรวจสอบข้อเท็จจริง ลายน้ำเป็นหนึ่งในข้อกำหนดด้านกฎระเบียบไม่กี่ข้อที่ OpenAI สามารถตอบสนองได้อย่างเต็มที่ด้วยโครงสร้างพื้นฐานมากกว่าการเปลี่ยนแปลงผลิตภัณฑ์ ซึ่งอาจอธิบายได้ว่าเหตุใดจึงต้องจัดส่งก่อน
The Catch: ลายน้ำแตกระหว่างการแก้ไข
OpenAI เองก็ยอมรับข้อจำกัดพื้นฐาน บริษัทยอมรับว่าลายน้ำสามารถหายไปได้เมื่อมีการแก้ไขข้อความ และการวิจัยหลายทศวรรษเกี่ยวกับอัตชีวประวัติทางภาษาก็สนับสนุนข้อกังวลดังกล่าว เช่น การถอดความ การแปล หรือแม้แต่การเขียนใหม่เล็กน้อยสามารถทำลายลายน้ำทางสถิติได้ ใครก็ตามที่ตั้งใจจะฟอกข้อความ AI ด้วยเครื่องมือ "humanizer" ก็น่าจะประสบความสำเร็จ
จุดอ่อนดังกล่าวไม่ได้หยุดหน่วยงานกำกับดูแลจากการกำหนดให้ใส่ลายน้ำ และไม่ได้หยุดห้องปฏิบัติการในการขนส่งลายน้ำ เป้าหมายที่เป็นจริงไม่ใช่แหล่งที่มาที่ป้องกันการงัดแงะ แต่เป็นการเพิ่มต้นทุนของการหลอกลวงแบบไม่เป็นทางการในวงกว้าง ซึ่งเป็นตรรกะเดียวกับที่ใช้ควบคุมลายน้ำของสกุลเงิน นักวิจารณ์ รวมถึงกลุ่มความปลอดภัยของ AI บางกลุ่มที่ไม่มั่นใจในมาตรการภาคสมัครใจในอุตสาหกรรม โต้แย้งว่าเครื่องตรวจจับที่เข้าถึงได้เฉพาะองค์กรที่ได้รับอนุมัติเท่านั้นไม่ได้ช่วยอะไรกับครู บรรณาธิการ หรือแพลตฟอร์มที่พยายามบังคับใช้นโยบายเนื้อหา AI ของตนเองมากนัก
ความหมายสำหรับผู้ใช้และนักพัฒนา
สำหรับผู้ใช้ ChatGPT และ Codex ในสหภาพยุโรป จะไม่มีอะไรเปลี่ยนแปลงอย่างเห็นได้ชัด ข้อความจะมีลักษณะและความรู้สึกเหมือนกัน และไม่มีป้ายกำกับปรากฏบนเอาต์พุต ลายน้ำจะอยู่ตรงนั้น โดยหลักการแล้วสามารถตรวจจับได้โดยพันธมิตรที่ได้รับอนุมัติของ OpenAI
สำหรับนักพัฒนา ธง API จะมาถึงทันทีและคุ้มค่าที่จะประเมินอย่างระมัดระวัง การเปิดใช้หมายถึงการยอมรับการเปลี่ยนแปลงเล็กๆ น้อยๆ ในการสุ่มตัวอย่างโทเค็นในทุกความสำเร็จ แม้สำหรับผู้ใช้ที่ไม่ใช่สหภาพยุโรป เนื่องจากการตั้งค่า API เป็นแบบสากล ทีมที่มีเวลาแฝงหรืองบประมาณที่มีคุณภาพที่เข้มงวดอาจต้องการเปรียบเทียบการสร้างลายน้ำกับการตั้งค่าปัจจุบันก่อนที่จะพลิกสวิตช์
OpenAI กล่าวว่ารายละเอียดเพิ่มเติมเกี่ยวกับรุ่นที่มีสิทธิ์และขั้นตอนการสมัครเครื่องตรวจจับจะมาถึงในอีกไม่กี่สัปดาห์ข้างหน้า เนื่องจากห้องปฏิบัติการอื่นๆ เผชิญกับพันธกรณีเดียวกันกับสหภาพยุโรป textGrain จึงไม่น่าจะเป็นรูปแบบลายน้ำสุดท้ายที่อุตสาหกรรมปรับใช้ในปีนี้
ก้าวนำหน้า AI
กฎระเบียบกำลังปรับเปลี่ยนวิธีการทำงานของผลิตภัณฑ์ AI ภายใต้ประทุน รับการพัฒนา AI ล่าสุดบน AI Buzz Wire พร้อมการวิเคราะห์นโยบายและข่าวสารโมเดลที่อัปเดตตลอดทั้งวัน
อ่านข่าว AI เพิ่มเติมได้ที่นี่
