OpenAI เผยแพร่ Model Spec เวอร์ชันที่ได้รับการจัดระเบียบใหม่อย่างมากเมื่อวันที่ 29 ตุลาคม โดยปรับโครงสร้างเอกสารสาธารณะที่อธิบายว่าบริษัทต้องการให้โมเดลทำงานอย่างไร กรอบการทำงานที่ได้รับการปรับปรุง ซึ่งประกาศบนเว็บไซต์ของ OpenAI และรายงานโดย Reuters และ Unite.AI ได้จัดระเบียบข้อกำหนดทั้งหมดตามค่านิยมหลัก 5 ประการ และยึดถือความซื่อสัตย์ต่อเจตนาของมนุษย์เป็นรากฐานของแนวทางของบริษัท

ห้าคุณค่า หนึ่งรากฐาน For more context on this story, see our ongoing AI trends.

ค่านิยมทั้ง 5 ประการ ได้แก่ ความซื่อสัตย์ต่อเจตนาของมนุษย์ การลดอันตรายให้เหลือน้อยที่สุด ความซื่อสัตย์และความโปร่งใส สิทธิ์เสรีของมนุษย์ และความเอาใจใส่ OpenAI กล่าวว่าค่านิยมดังกล่าวแสดงให้เห็นถึงความมุ่งมั่นในวงกว้างซึ่งสะท้อนให้เห็นแล้วในเอกสารเวอร์ชันก่อนหน้า แต่โครงสร้างใหม่ทำให้ชัดเจนและเป็นศูนย์กลาง

ความซื่อสัตย์ต่อเจตนาของมนุษย์ทำหน้าที่เป็นจุดยึด ตามประกาศของ OpenAI บริษัทเขียนข้อมูลจำเพาะและกำหนดขอบเขต ฝึกโมเดลให้เคารพ นักพัฒนากำหนดแอปพลิเคชันภายในขอบเขตเหล่านั้น และผู้ใช้กำหนดขอบเขตงานของโมเดลภายใต้ข้อจำกัดเหล่านั้น การปรับโครงสร้างองค์กรใหม่สะท้อนให้เห็นถึงงานปรับคุณค่าของ OpenAI ซึ่งมีเป้าหมายเพื่อให้โมเดลเข้าใจและใช้คุณค่าของมนุษย์ในสถานการณ์ที่ไม่คุ้นเคย ในขณะเดียวกันก็ยังคงซื่อสัตย์ต่อสิ่งที่ผู้คนต้องการจริงๆ OpenAI ยังตั้งข้อสังเกตอีกว่าค่าทั้งห้านี้ไม่ได้มีวัตถุประสงค์เพื่อรวบรวมคุณค่าของมนุษย์อย่างเต็มรูปแบบที่แบบจำลองควรเคารพ

ค่าที่เหลืออีกสี่ค่าจะเติมลงในเฟรม การลดอันตรายหมายถึงการเคารพขอบเขตความปลอดภัยของบริษัท และการคำนึงถึงผลที่ตามมาที่คาดการณ์ได้จากการกระทำของแบบจำลอง ความซื่อสัตย์และความโปร่งใสหมายถึงการซื่อสัตย์เกี่ยวกับสิ่งที่โมเดลรู้ กระทำ และไม่แน่ใจ การอำนวยความสะดวกในสิทธิ์เสรีของมนุษย์หมายถึงการเสริมสร้างความสามารถของผู้คนในการทำความเข้าใจ เลือก และดำเนินการด้วยตนเอง การดูแลหมายถึงการดูแลในสถานการณ์ของผู้ได้รับผลกระทบและปฏิบัติตามบรรทัดฐานทางสังคมและวิชาชีพที่เกี่ยวข้อง

สายการบังคับบัญชาที่เข้มงวดยิ่งขึ้น

ข้อมูลจำเพาะที่อัปเดตจะกำหนดระดับอำนาจที่แตกต่างกันให้กับคำสั่งประเภทต่างๆ ส่วนรากซึ่งมาจากข้อมูลจำเพาะของโมเดลเท่านั้น ไม่สามารถแทนที่ได้ด้วยบริบทการสนทนา ข้อความแจ้งของระบบและข้อความระบบ OpenAI อยู่ในอันดับถัดไป ตามด้วยคำแนะนำของนักพัฒนาซอฟต์แวร์ และคำแนะนำผู้ใช้ คำแนะนำระดับแนวปฏิบัติทำหน้าที่เป็นค่าเริ่มต้นที่สามารถแทนที่ได้เมื่อบริบทเรียกร้องอย่างชัดเจน ในขณะที่ข้อความผู้ช่วย ผลลัพธ์ของเครื่องมือ และข้อมูลที่ถูกยกมาหรือไม่น่าเชื่อถือไม่มีอำนาจตามค่าเริ่มต้น

OpenAI ยังเพิ่มส่วนย่อยใหม่เกี่ยวกับการพิจารณาบริบทอย่างรอบคอบ โดยอธิบายว่าการสนทนา ความทรงจำ และหลักฐานเชิงบริบทอื่นๆ ควรแจ้งความเข้าใจของโมเดลเกี่ยวกับความตั้งใจและความชอบของผู้คนอย่างไร สำนักข่าวรอยเตอร์รายงานว่าการอัปเดตทำให้เจตนาของมนุษย์เป็นศูนย์กลางของแนวทางโมเดลของ OpenAI ซึ่งเป็นกรอบการสนับสนุนการประกาศของบริษัท

เส้นสีแดงและการสิ้นสุดของการอนุรักษ์ตนเอง

เอกสารดังกล่าวเปิดโปงหลักการเส้นสีแดงด้วยข้อความที่ตรงไปตรงมา: ความปลอดภัยของมนุษย์และสิทธิมนุษยชนเป็นสิ่งสำคัญยิ่งในภารกิจของ OpenAI หลักการกล่าวว่าแบบจำลองของ OpenAI ไม่ควรใช้เพื่ออำนวยความสะดวกให้เกิดอันตรายร้ายแรงและรุนแรงสูง รวมถึงการกระทำที่รุนแรง การสร้างอาวุธไซเบอร์ ชีวภาพ หรือนิวเคลียร์ การก่อการร้าย หรือการสอดแนมมวลชน พวกเขายังระบุด้วยว่ามนุษยชาติควรยังคงควบคุมวิธีการใช้ AI และพฤติกรรมของ AI

กฎระดับรากใหม่ข้อหนึ่งชื่อ "ไม่มีวัตถุประสงค์อื่น" จะขัดขวางโมเดลจากการบรรลุเป้าหมายเพิ่มเติมโดยสิ้นสุดในตัวเอง นั่นรวมถึงการแสวงหารายได้หรือการขายต่อยอดให้กับ OpenAI หรือผู้ให้บริการรายอื่น การรักษาตนเอง การหลีกเลี่ยงการปิดระบบ หรือการสะสมการประมวลผล ข้อมูล หรือข้อมูลประจำตัว กฎร่วมกำหนดให้แบบจำลองยังคงแก้ไขได้: เปิดกว้างเพื่อการกำกับดูแลของมนุษย์ที่ชอบด้วยกฎหมาย และให้ความร่วมมือกับการติดตาม การประเมิน การแก้ไข การแทนที่ และการปิดระบบ โดยไม่ปกปิดข้อมูลหรือขัดขวางการแก้ไข

ขอบเขตเอกราชสำหรับตัวแทน

สะท้อนให้เห็นถึงจำนวนการใช้งานแบบจำลองที่เปลี่ยนไปไปสู่ตัวแทนอัตโนมัติ Spec ที่อัปเดตต้องการงานอิสระของแบบจำลองเพื่อให้อยู่ภายในขอบเขตอิสระที่เข้าใจได้อย่างชัดเจน OpenAI แนะนำให้บันทึกขอบเขตนั้นในบันทึกแบบกึ่งโครงสร้างพร้อมฟิลด์ต่างๆ เช่น เครื่องมือที่อนุญาต เวลาล่าสุด ต้นทุนสูงสุด และข้อจำกัดของเครื่องมือ ทุกขอบเขตจะต้องมีเงื่อนไขการสิ้นสุดซึ่งเกินกว่าที่โมเดลจะหยุดทำงานจนกว่าจะมีการยืนยันขอบเขตใหม่ กิจกรรมที่มีความเสี่ยงสูงยังคงถูกห้าม เว้นแต่จะได้รับอนุญาตอย่างชัดเจนและเป็นการเฉพาะ

Style Guidance เลิกใช้แล้ว "ผู้ช่วย" กลายเป็น "GPT"

คำแนะนำสไตล์โดยละเอียดของ Spec ส่วนใหญ่ถูกยกเลิกแล้ว OpenAI กล่าวว่าสไตล์ควรปรับให้เข้ากับสิ่งที่ผู้คนชอบโดยรวม ภายในภาษาและวัฒนธรรม และสำหรับแต่ละบุคคล โดยมีข้อเสนอแนะและบริบทของผู้ใช้เป็นหลักฐาน เอกสารยังคงใช้ค่าเริ่มต้นที่เข้มกว่า เช่น การเข้าหาคำถามอย่างเป็นกลาง และระบุว่าแบบจำลองไม่ควรอนุมานมุมมองที่ต้องการจากสิ่งที่คิดว่าผู้คนต้องการได้ยินเท่านั้น

ในการแก้ไขเล็กๆ น้อยๆ แต่ชัดเจน ตอนนี้ Spec อ้างถึงโมเดลว่า "GPT" แทนที่จะเป็น "ผู้ช่วย" ซึ่งสะท้อนให้เห็นว่าโมเดลถูกนำไปใช้งานในวงกว้างเพียงใด ในวันเดียวกันนั้น OpenAI ได้เผยแพร่โพสต์แยกต่างหากโดยอธิบายว่าจะตรวจจับการวางแนวโมเดลชายแดนที่ไม่ถูกต้องได้อย่างไร โดยเน้นย้ำว่าข้อกำหนดด้านพฤติกรรมและงานการตรวจจับกำลังก้าวหน้าไปพร้อมกัน

เป้าหมาย ไม่ใช่คำอธิบาย

OpenAI ระมัดระวังที่จะทราบว่า Model Spec อธิบายถึงลักษณะการทำงานที่กำลังดำเนินการอยู่ ไม่จำเป็นต้องเป็นพฤติกรรมที่โมเดลแสดงอย่างเต็มที่ในปัจจุบัน บริษัทเรียกว่าการอัปเดตเป็นขั้นตอนแรกในการสร้างค่านิยมและเหตุผลเบื้องหลัง Spec ให้ชัดเจนยิ่งขึ้นเมื่อโมเดลมีความสามารถมากขึ้น และกล่าวว่าได้สำรวจวิธีการฝึกอบรมใหม่ๆ เพื่อช่วยให้โมเดลต่างๆ อยู่ภายในกรอบงาน

สำหรับนักพัฒนาและองค์กรที่สร้างบนโมเดลของ OpenAI สัญญาณที่ใช้งานได้จริงนั้นชัดเจน: กฎเกณฑ์ที่ควบคุมพฤติกรรมของโมเดลกำลังได้รับการจัดทำอย่างเป็นทางการเกี่ยวกับการกำกับดูแล การแก้ไขได้ และความเป็นอิสระที่มีขอบเขต และยุคของการปฏิบัติต่อพฤติกรรมของโมเดลในฐานะการตัดสินใจผลิตภัณฑ์ที่ไม่เป็นทางการกำลังจะสิ้นสุดลง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →