OpenAI ในวันพฤหัสบดีเผยแพร่บัญชีที่มีรายละเอียดมากที่สุดเกี่ยวกับวิธีการตรวจจับและขัดขวาง "การกลั่นแบบฝ่ายตรงข้าม" ซึ่งเป็นการใช้เอาท์พุตของโมเดลชายแดนเพื่อฝึกระบบการแข่งขันโดยไม่ได้รับอนุญาต และตามรายงานหลายฉบับ ได้เริ่มกำหนดให้เกตเวย์บุคคลที่สามและผู้ค้าปลีกต้องได้รับการอนุมัติก่อนที่จะเสนอการเข้าถึงโดยตรงไปยังโมเดลของตน

การเคลื่อนไหวดังกล่าวตามที่อธิบายไว้ในบล็อกโพสต์ของ OpenAI ในหัวข้อ "การต่อสู้กับการกลั่นแบบฝ่ายตรงข้าม" และครอบคลุมโดย Semafor และ eWeek ถือเป็นการเพิ่มความเข้มงวดมากขึ้นในวิธีที่บริษัทควบคุมว่าใครสามารถแจกจ่ายความสามารถของโมเดลของตนอีกครั้ง ซึ่งเป็นการเปลี่ยนแปลงที่มีผลกระทบที่แท้จริงสำหรับนักพัฒนา สตาร์ทอัพ และองค์กรต่างๆ ที่เข้าถึงระบบ OpenAI ผ่านตัวกลาง

เหตุใด OpenAI จึงถือว่าการกลั่นเป็นปัญหาด้านความปลอดภัย

การกลั่นเป็นเทคนิคการเรียนรู้ของเครื่องมาตรฐาน โดยที่แบบจำลองหนึ่งเรียนรู้จากผลลัพธ์ของอีกแบบจำลองหนึ่ง OpenAI ระบุว่า มันไม่ได้ผิดกฎหมายหรือผิดปกติแต่อย่างใด ข้อกังวลของบริษัทคือสิ่งที่เรียกว่าการกลั่นแบบปฏิปักษ์: นักแสดงที่ใช้ผลลัพธ์ของโมเดลชายแดนโดยไม่ได้รับอนุญาตในการฝึกโมเดลอื่นที่มีความสามารถคล้ายคลึงกัน จากนั้นปรับใช้โดยไม่มีการป้องกันที่เทียบเคียงได้

ในบล็อกโพสต์ OpenAI ระบุว่าความเสี่ยงมีความชัดเจนที่สุดในโดเมนแบบใช้สองทาง เช่น ความปลอดภัยทางไซเบอร์และชีววิทยา โมเดลที่ช่วยให้ผู้ปกป้องค้นหาช่องโหว่ของซอฟต์แวร์ได้ เมื่อทักษะถูกถ่ายโอนไปยังระบบที่มีรั้วที่อ่อนแอกว่า ก็สามารถช่วยผู้โจมตีใช้ประโยชน์จากช่องโหว่เหล่านั้นได้ “ฝ่ายตรงข้ามอาจกลั่นกรองความสามารถทางไซเบอร์ของโมเดล และใช้โมเดลผลลัพธ์เพื่อช่วยดำเนินการโจมตีทางไซเบอร์ที่โมเดลดั้งเดิมปฏิเสธที่จะช่วยเหลือ” บริษัท เขียน

การปกป้องห่วงโซ่แห่งความคิด

หัวใจสำคัญของการป้องกันของ OpenAI คือสิ่งที่เรียกว่าการให้เหตุผลที่ได้รับการคุ้มครอง: ขั้นตอนกลาง - ห่วงโซ่แห่งความคิด - แบบจำลองสร้างขึ้นภายในขณะทำงานเพื่อหาคำตอบ บริษัทอธิบายว่าร่องรอยเหล่านั้นอาจมีข้อมูลที่ไม่มีคำตอบสุดท้าย ซึ่งทำให้มีคุณค่าอย่างยิ่งเป็นข้อมูลการฝึกอบรมสำหรับแบบจำลองของห้องปฏิบัติการอื่น

OpenAI กล่าวว่าได้เสริมความแข็งแกร่งในการป้องกันการแยกเหตุผลและการติดตามใน GPT-6.2 Astra และ GPT-6.2 Sol ในการประเมินแบบปรับเปลี่ยนภายในโดยใช้ทีมสีแดงอัตโนมัติ บริษัทรายงานว่าอัตราความสำเร็จในการโจมตีโดยเฉลี่ยสำหรับการกู้คืนเหตุผลที่ได้รับการป้องกันลดลงจาก 54.0% เทียบกับ GPT-6 Astra ที่มีการป้องกันแบบเดิมเป็น 0.2% เทียบกับ GPT-6.2 Astra ที่มีการป้องกันที่อัปเดต

การศึกษาทางไซเบอร์ภายในพบอะไร

บริษัทยังได้แบ่งปันผลลัพธ์จากการศึกษาภายในว่าความสามารถทางไซเบอร์ถ่ายโอนระหว่างการกลั่นอย่างไร โมเดลนักเรียนได้รับการปรับแต่งอย่างละเอียดตามวิถีที่สร้างโดยโมเดลครูที่ทำงานเกี่ยวกับการเขียนโค้ดและงานด้านความปลอดภัยทางไซเบอร์ในการป้องกัน นักเรียนที่ได้รับการฝึกอบรมเกี่ยวกับการติดตามการใช้เหตุผลที่แน่นอน โดยทั่วไปแล้วจะมีประสิทธิภาพเหนือกว่านักเรียนที่ได้รับการฝึกอบรมเฉพาะในการสรุปการใช้เหตุผล ทั้งหลังจากการปรับแต่งแบบละเอียดภายใต้การดูแล และ - ด้วยงบประมาณการอนุมานที่ใหญ่ที่สุดที่ทดสอบ - หลังจากการเรียนรู้แบบเสริมกำลังรอบต่อไป ตามเกณฑ์มาตรฐาน OpenAI ที่แสดงอยู่ข้างโพสต์

ความหมายนี้น่ากังวลสำหรับทุกคนที่หวังว่าการถ่ายโอนความสามารถสามารถทำได้โดยการเผยแพร่ผลงานที่ผ่านการฆ่าเชื้อ แม้แต่การโต้ตอบที่ได้รับอนุญาตภายใต้นโยบายการใช้งานก็สามารถสอนทักษะการสร้างแบบจำลองของนักเรียนโดยรวมที่นอกเหนือไปจากงานที่ครูทำในตอนแรกได้

เกตเวย์และผู้ค้าปลีกตอนนี้ต้องได้รับการอนุมัติ

มาตรการทางเทคนิคมาควบคู่ไปกับการเปลี่ยนแปลงนโยบาย ตั้งแต่วันพฤหัสบดีเป็นต้นไป OpenAI จะต้องใช้เราเตอร์โมเดล AI และเกตเวย์ที่ให้บุคคลที่สามเข้าถึงโมเดลโดยตรงเพื่อขออนุมัติล่วงหน้า eWeek รายงาน ข้อกำหนดนี้สร้างขึ้นจากประกาศที่บริษัททำในเดือนตุลาคม โดยระบุว่าควรใช้การป้องกันความปลอดภัยอย่างไรเมื่อลูกค้าเข้าถึงโมเดลโดยตรงหรือผ่านพันธมิตรโฮสติ้งและผู้ค้าปลีก

ตามบทสรุปของ eWeek เกี่ยวกับกรอบการทำงานดังกล่าว บริการที่เข้าร่วมได้รับการคาดหวังให้รักษามาตรฐานที่เทียบเคียงได้ ดังนั้นผู้ใช้จึงไม่สามารถเปลี่ยนผู้ให้บริการเพื่อหลีกเลี่ยงข้อจำกัดต่างๆ ได้ มาตรการดังกล่าวครอบคลุมสามขั้นตอน ได้แก่ การประเมินความเสี่ยงและการทดสอบกับความพยายามเลี่ยงการป้องกันก่อนการใช้งาน การตรวจสอบระหว่างการใช้งาน โดยคาดหวังให้พันธมิตรตรวจสอบกิจกรรมที่น่าสงสัย และขั้นตอนการบังคับใช้ภายหลังการละเมิดเกิดขึ้น Semafor แสดงให้เห็นถึงการเปลี่ยนแปลงเมื่อ OpenAI กระชับระบบนิเวศของผู้ค้าปลีกที่เติบโตอย่างรวดเร็วรอบ ๆ API

ความหมายสำหรับนักพัฒนาคืออะไร

สำหรับนักพัฒนา ผลในทางปฏิบัติคือคำถามใหม่ในการปฏิบัติตามข้อกำหนดเพื่อเพิ่มการตรวจสอบสถานะของผู้จำหน่าย: ว่าตัวกลางที่เสนอโมเดล OpenAI ได้รับอนุญาตให้ทำเช่นนั้นจริงหรือไม่ ธุรกิจที่กำหนดเส้นทางการรับส่งข้อมูลผ่านผู้รวบรวมควรยืนยันสถานะการอนุมัติของผู้ให้บริการ และวิธีการจัดการข้อมูลประจำตัวและข้อมูล แนะนำ eWeek

สำหรับอุตสาหกรรมในวงกว้าง การประกาศดังกล่าวเป็นสัญญาณว่าผู้ให้บริการโมเดลมองว่าการควบคุมความสามารถที่ได้รับมา ไม่ใช่แค่ตัวโมเดลเองเท่านั้น ถือเป็นขอบเขตที่สำคัญ ข้อพิพาทเรื่องการกลั่นได้ปะทุขึ้นทั่วทั้งวงการในช่วงไม่กี่ปีที่ผ่านมา และขณะนี้ OpenAI กำลังกำหนดกรอบการตอบสนองไม่ใช่เป็นข้อพิพาทด้านใบอนุญาต แต่เป็นข้อกำหนดด้านความปลอดภัย โดยปรับการป้องกันการกลั่นให้สอดคล้องกับการควบคุมที่ใช้กับความเสี่ยงทางชีววิทยาและความปลอดภัยทางไซเบอร์

The Road Ahead

OpenAI กล่าวว่าจะศึกษาต่อไปว่าความสามารถในการถ่ายโอนไปยังโมเดลนักเรียนและสูตรการกลั่นต่างๆ มีจำนวนเท่าใด และจะเชิญชวนให้ห้องปฏิบัติการอื่นๆ สร้างงานการตรวจจับและการบังคับใช้ ไม่ว่าคู่แข่งจะใช้ระบบการอนุมัติเกตเวย์ที่เทียบเคียงได้หรือไม่ และผู้ใช้ยอมรับความขัดแย้งที่เพิ่มเข้ามาหรือไม่ จะช่วยกำหนดวิธีสร้างระบบ AI รุ่นต่อไป และใครได้รับอนุญาตให้สร้างมัน

ก้าวนำหน้าโค้ง

ต้องการข้อมูลล่าสุดเกี่ยวกับโมเดล AI ความปลอดภัย และนโยบายที่เกิดขึ้นหรือไม่ ติดตามข่าวด่วน AI บน AI Buzz Wire

อ่านข่าว AI เพิ่มเติม →