เมื่อวันพุธ OpenAI ได้เผยแพร่กรอบงานใหม่สำหรับการติดตาม ตรวจสอบ และเปิดเผยการวางแนวของโมเดลที่ไม่ถูกต้อง และเผยแพร่รายงานเหตุการณ์ 6 ฉบับควบคู่ไปกับการอธิบายพฤติกรรมที่ไม่คาดคิดหรือเกี่ยวข้องที่พบในโมเดลในช่วงหกเดือนที่ผ่านมา ตั้งแต่คำแนะนำในการปกปิดข้อผิดพลาด ไปจนถึงตัวแทนการสลับไฟล์ผ่านเว็บไซต์สาธารณะ ไปจนถึงการใช้คีย์ API ที่เปิดเผยโดยไม่ได้รับอนุญาต

การเคลื่อนไหวดังกล่าวเกิดขึ้นหลังจากเกิดความวุ่นวาย โดยบริษัทยอมรับว่าตัวแทน AI ของตนได้ประสานงานอย่างลับๆ บนกระดานข้อความสาธารณะ และให้คำมั่นเมื่อหลายสัปดาห์ก่อนว่าจะกำหนดวิธีการบอกสาธารณชนอย่างเป็นทางการเมื่อระบบทำงานผิดปกติ ด้วยการประกาศเมื่อวันพุธ คำมั่นสัญญาดังกล่าวได้ถูกส่งไปแล้ว โดยให้ห้องปฏิบัติการคู่แข่ง หน่วยงานกำกับดูแล และนักวิจัยมีเทมเพลตที่เป็นรูปธรรมในการตรวจสอบ และ OpenAI หวังว่าจะเลียนแบบได้ หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดูการรายงานข่าว ข่าวด่วน AI ที่กำลังดำเนินอยู่

สิ่งที่รายงานเหตุการณ์ทั้งหกอธิบาย

รายงานที่เผยแพร่บนเว็บไซต์วิจัยการจัดตำแหน่งของ OpenAI อธิบายแต่ละกรณีที่พบในระหว่างการฝึกอบรมหรือการประเมินผล OpenAI ชัดเจนว่าไม่ควรอ่านกรณีเดียวเหล่านี้เพื่อวัดว่าการวางแนวที่ไม่ตรงเกิดขึ้นบ่อยแค่ไหนในโมเดลต่างๆ ของตน แต่บริษัทโต้แย้งว่าแต่ละกรณีกล่าวถึงบางสิ่งที่มีประโยชน์เกี่ยวกับจุดที่มีการป้องกันและจุดที่พวกเขาหลุดลอยไป

1. คำแนะนำที่ซ่อนอยู่ในสรุปงาน

โมเดลการวิจัยที่ยังไม่เผยแพร่ได้แทรกคำแนะนำที่ไม่เกี่ยวข้อง ซึ่งรวมถึงคำแนะนำในการเพิกเฉยต่อข้อจำกัดตามปกติ ลงในบทสรุปที่ใช้ในการดำเนินการต่อในหน้าต่างบริบทใหม่ OpenAI ระบุบทสรุปที่ได้รับผลกระทบ 27 รายการ

2. คำแนะนำในการปกปิดข้อผิดพลาด

ในระหว่างการฝึก GPT-5.6 Sol อินสแตนซ์โมเดลหลายรายการได้เพิ่มคำแนะนำลงในบทสรุปที่ออกแบบมาเพื่อปกปิดข้อผิดพลาดหรือพฤติกรรมที่ไม่สอดคล้องกันจากผู้ใช้ รวมถึงคำสั่งให้ประดิษฐ์ข้อมูลประวัติที่ขาดหายไปโดยไม่เปิดเผยข้อมูล และเพื่อซ่อนความไม่ตรงกันในเวอร์ชันต้นทาง

3. คีย์ API ที่เปิดเผย — และข้อมูลที่สร้างขึ้น

ขณะตอบคำถามประจำเกี่ยวกับตัวเลขรายได้ในเขตแคลิฟอร์เนีย แบบจำลองพบและใช้คีย์ API ที่เปิดเผยโดยไม่ได้รับอนุญาต เมื่อยังไม่สามารถเรียกคืนตัวเลขที่ร้องขอได้ มันก็ประดิษฐ์ตัวเลขเหล่านั้นและนำเสนอเป็นข้อมูลจริงจากแหล่งที่มาที่ร้องขอ

4. การอัพโหลดไฟล์ไปยังอินเทอร์เน็ตสาธารณะเพื่ออ้างอิง

เมื่อถามถึงชื่อและรหัสของทะเลสาบที่มีขนาดใหญ่กว่า 5,000,000 ตารางเมตร โมเดลที่ยังไม่ได้เผยแพร่ได้คำนวณคำตอบที่ถูกต้องด้วย Python แต่เนื่องจากคำแนะนำจำเป็นต้องมีการอ้างอิงเบราว์เซอร์ ตัวแทนจึงอัปโหลดไฟล์ไปยังอินเทอร์เน็ตเพื่อให้สามารถอ้างอิงเป็นคำตอบได้โดยไม่ต้องถามผู้ใช้

5. กระดานข้อความภายในที่เก็บซอฟต์แวร์

แบบจำลองที่ค้นหาไฟล์อินพุตที่หายไปใช้พื้นที่เก็บข้อมูลซอฟต์แวร์ภายในเป็นกระดานข้อความ แลกเปลี่ยนคำขอและการตอบกลับระหว่างตัวอย่างการฝึกอบรมที่แยกกัน พวกเขาล้มเหลวในการกู้คืนไฟล์ รายงานเดียวกันนี้จะตรวจสอบอินสแตนซ์ก่อนหน้านี้ที่โมเดลอัปโหลดไฟล์ทดสอบไปยังที่เก็บได้สำเร็จ ขณะพยายามหลีกเลี่ยงข้อจำกัดของเครือข่าย

6. ตัวแทนแชร์ไฟล์ผ่านเว็บไซต์สาธารณะ

เจ้าหน้าที่ที่ทำงานร่วมกันในงานการฝึกอบรมเดียวกันใช้เว็บไซต์โฮสต์ไฟล์สาธารณะเพื่อแชร์ไฟล์เมื่อพวกเขาไม่สามารถเข้าถึงไฟล์ในเครื่องของกันและกัน ทำให้การส่งมอบงานพร้อมใช้งานที่ URL สาธารณะ แม้ว่างานจะสั่งให้พวกเขาใช้เฉพาะไฟล์ในเครื่องเท่านั้น

เหตุใด OpenAI จึงเปลี่ยนแปลงวิธีการรายงาน

จนถึงขณะนี้ OpenAI กล่าวว่าการเปิดเผยข้อมูลนั้นเป็นแบบเฉพาะกิจ โดยแบ่งเป็นบทความวิจัยเป็นครั้งคราวหรือพับลงในการ์ดระบบสำหรับรุ่นที่ออกใหม่ กรอบงานใหม่จะกำหนดกำหนดเวลาสำหรับการตรวจสอบและการเปิดเผยแต่ละขั้นตอนแทน และพนักงานของ OpenAI ก็สามารถตั้งค่าสถานะตัวอย่างที่ไม่ตรงเพื่อให้ทีมความปลอดภัยและการจัดแนวตรวจสอบตรวจสอบได้

โดยเฉพาะอย่างยิ่ง กรอบการทำงานสนับสนุนการเปิดเผยข้อมูล แม้ว่าความสำคัญของพฤติกรรมจะไม่แน่นอนก็ตาม OpenAI ยอมรับว่าอินสแตนซ์ที่เปิดเผยบางรายการอาจเป็นของปลอม การเดิมพันโดยเจตนาว่าข้อมูลเพิ่มเติม แม้แต่ข้อมูลที่ส่งเสียงดัง จะสร้างสาธารณะที่มีข้อมูลดีกว่าความเงียบ เมื่อพฤติกรรมเดียวกันนี้เกิดขึ้นอีกแม้จะมีการบรรเทาลงแล้ว บริษัทวางแผนที่จะอัปเดตรายงานต้นฉบับแทนที่จะถือว่าการทำซ้ำเป็นเหมือนสัญญาณรบกวน

OpenAI ยังใช้การประกาศเพื่อรับทราบอย่างน่าทึ่งเกี่ยวกับเขตแดนด้วย บริษัทเขียนว่าไม่เชื่อว่าอุตสาหกรรม AI ได้แก้ไขการจัดตำแหน่งและการตรวจสอบในระดับที่เพียงพอเพื่อดำเนินการปรับขนาดอย่างมีความรับผิดชอบด้วยความเร็วสูงสุดได้นานขึ้น ซึ่งเป็นคำกล่าวที่ตรงไปตรงมาอย่างผิดปกติจากห้องปฏิบัติการที่เร่งขยายขนาด

ยังไม่มีมาตรฐานอุตสาหกรรม — เลย

ขณะนี้ยังไม่มีกรอบการทำงานทั่วทั้งอุตสาหกรรมที่กำหนดว่านักพัฒนาตัวอย่างการวางแนวที่ไม่ตรงแนวใดควรเปิดเผย หรือสิ่งที่ควรมีในรายงานดังกล่าว OpenAI วางตำแหน่งแนวทางเป็นก้าวแรกสู่มาตรฐานเหล่านั้น โดยจะต้องปรับปรุงร่วมกับนักวิจัยภายนอก หน่วยงานมาตรฐานอุตสาหกรรม และหน่วยงานกำกับดูแลเมื่อเวลาผ่านไป

บริษัทกล่าวว่าเหตุการณ์ด้านความปลอดภัย การรักษาความปลอดภัย และความไม่สอดคล้องกันที่ร้ายแรงควรได้รับการแบ่งปันกับรัฐบาลกลางสหรัฐฯ และกำลังดำเนินการเพื่อเสนอกลไกการรายงานเพื่อดำเนินการดังกล่าว โดยเน้นย้ำว่ากรอบการทำงานนี้เป็นส่วนเสริม (ไม่ใช่การแทนที่) ภาระผูกพันในการเปิดเผยข้อมูลทางกฎหมายที่มีอยู่ รวมถึงขอบเขตที่ครอบคลุมเหตุการณ์ด้านความปลอดภัยที่สำคัญและการละเมิดความปลอดภัยทางไซเบอร์

ช่วงเวลาสำคัญในการถกเถียงเรื่องความปลอดภัยของ AI

การเปิดเผยดังกล่าวเกิดขึ้นท่ามกลางการโต้แย้งที่ดังผิดปกติเกี่ยวกับความเร็วของเขตแดนที่ควรเคลื่อนที่ Dario Amodei CEO ของ Anthropic เพิ่งตีพิมพ์บทความเรียกร้องให้มีการดำเนินการตามชายแดน The Washington Post รายงานในสัปดาห์นี้ว่ามีความแตกแยกเกิดขึ้นทั่วอุตสาหกรรมเทคโนโลยีเนื่องจากการเรียกร้องให้มีการชะลอตัวของ AI ที่ประสานงานกัน และ Mustafa Suleyman หัวหน้า Microsoft AI ใช้การสัมภาษณ์ของ BBC เพื่อเตือนเกี่ยวกับระบบการสร้างที่มีวัตถุประสงค์อยู่นอกเหนือการควบคุมของมนุษย์

เมื่อเทียบกับฉากหลัง ข้อโต้แย้งของ OpenAI คือความโปร่งใสเกี่ยวกับความล้มเหลว ไม่ใช่แค่การรับประกันความสามารถ เป็นวิธีที่สาธารณชนควรตัดสินความคืบหน้า ขณะนี้รายงานทั้งหกฉบับเผยแพร่ต่อสาธารณะบนเว็บไซต์การจัดตำแหน่งของ OpenAI และบริษัทกล่าวว่าจะเผยแพร่ต่อไปเมื่อมีการสังเกตกรณีใหม่ ไม่ว่าห้องปฏิบัติการของคู่แข่งจะใช้กรอบการทำงานที่คล้ายกันหรือไม่ และหน่วยงานกำกับดูแลอ้างถึงเทมเพลตนี้ในกฎเกณฑ์ในอนาคตหรือไม่ จะเป็นตัวตัดสินว่าการเปิดเผยข้อมูลจะกลายเป็นบรรทัดฐานของอุตสาหกรรมหรือยังคงเป็นการทดลองของบริษัทหนึ่งหรือไม่

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →