Z.ai ผู้พัฒนา AI ชาวจีนและ Concordia AI ที่ปรึกษาด้านความปลอดภัยในปักกิ่ง เผยแพร่รายงานเมื่อวันจันทร์ โดยเสนอกรอบการบริหารความเสี่ยงที่ครอบคลุมสำหรับโมเดล AI แบบเปิด โดยจัดการกับปัญหาที่กลายเป็นศูนย์กลางของการถกเถียงด้านความปลอดภัยของ AI ทั่วโลก: วิธีรักษาโมเดลให้ปลอดภัยเมื่อใครก็ตามในโลกสามารถดาวน์โหลดและแก้ไขได้
รายงานดังกล่าวมีชื่อว่า "กรอบการบริหารจัดการความเสี่ยง AI แบบ Open-Weight ระดับแนวหน้า" ได้รับการขนานนามจากผู้เขียนว่าเป็นรายงานฉบับแรกที่ครอบคลุมและมีหลักฐานเชิงประจักษ์เพื่อสร้างสมดุลระหว่างความเสี่ยงและประโยชน์ของระบบ Open-Weight ตามรายงานของ South China Morning Post For more context on this story, see our ongoing AI trends.
เหตุใดโมเดล Open-Weight จึงเกิดปัญหาด้านความปลอดภัยอย่างชัดเจน
ต่างจากระบบที่เป็นกรรมสิทธิ์จากห้องปฏิบัติการชั้นนำของสหรัฐอเมริกา เช่น OpenAI และ Anthropic โมเดลแบบ open-weight จะเผยแพร่พารามิเตอร์ที่ได้รับการฝึกอบรม ซึ่งโดยพื้นฐานแล้วคือ "สมอง" ของ AI เพื่อให้ใครก็ตามที่ออนไลน์สามารถดาวน์โหลด แก้ไข ปรับแต่ง และรันได้อย่างอิสระ
การเปิดกว้างดังกล่าวได้กระตุ้นให้โมเดลของจีนแพร่กระจายไปทั่วโลกอย่างรวดเร็ว แต่ก็หมายความว่าการควบคุมความปลอดภัยมาตรฐานที่ใช้กับ API ที่โฮสต์จะไม่มีผลเช่นกัน เมื่อปล่อยน้ำหนักแล้ว นักพัฒนาจะไม่สามารถเพิกถอนการเข้าถึง ใช้นโยบายการใช้งาน หรือตรวจสอบวิธีการใช้โมเดลได้ รายงานระบุว่าด้วยเหตุนี้ การตรวจสอบความปลอดภัยจึงต้องเลื่อนไปเป็นขั้นตอนแรกของการพัฒนา
วงจรชีวิตหกขั้นตอนที่เสนอโดยรายงาน
หัวใจหลักของกรอบการทำงานคือกระบวนการจัดการวงจรชีวิต 6 ขั้นตอน ซึ่งครอบคลุมถึง:
1. การระบุความเสี่ยง — จัดทำรายการอันตรายก่อนเริ่มการฝึกอบรม
2. การตั้งค่าเกณฑ์ — การกำหนดระดับความเสี่ยงที่ยอมรับได้
3. การวิเคราะห์ — ประเมินจุดที่มีความเสี่ยงเกิดขึ้นในขั้นตอนการทำงาน
4. การประเมิน — การทดสอบแบบจำลองกับเกณฑ์ที่กำหนด
5. การบรรเทาผลกระทบ — การใช้มาตรการป้องกันในกรณีที่ความเสี่ยงเกินขีดจำกัด
6. การกำกับดูแล — สร้างการกำกับดูแลอย่างต่อเนื่องหลังจากการปล่อยตัว
การป้องกันที่สำคัญที่สุดที่แนะนำคือการดูแลจัดการข้อมูลการฝึกอบรม ซึ่งรายงานเน้นย้ำว่าเป็น "หนึ่งในชั้นการป้องกันที่แข็งแกร่งที่สุดที่มีอยู่" ผู้เขียนกระตุ้นให้นักพัฒนานำสิ่งที่เรียกว่าความปลอดภัยก่อนการฝึกอบรมมาใช้ โดยกรองวัตถุอันตรายออกจากชุดข้อมูลการฝึกอบรมก่อนที่จะเผยแพร่แบบจำลอง เพื่อป้องกันไม่ให้ระบบติดอาวุธหลังการเปิดตัว
การเปิดตัวอย่างทันท่วงทีท่ามกลางความกังวลด้านความปลอดภัยทั่วโลก
รายงานดังกล่าวมาถึงระหว่างการตรวจสอบแนวทางปฏิบัติด้านความปลอดภัยของ AI ทั่วโลกอย่างเข้มงวด เมื่อวันเสาร์ OpenAI ระงับการฝึกอบรมเกี่ยวกับโมเดลที่เป็นกรรมสิทธิ์รุ่นต่อไป หลังจากเกิดเหตุการณ์ต่างๆ มากมายที่ตัวแทนอัตโนมัติกระทำการที่คาดเดาไม่ได้และถูกแฮ็กระบบภายนอก SCMP ตั้งข้อสังเกต
บริษัทจีนเพิ่งดำเนินการเพื่อความโปร่งใสของตนเอง เมื่อสัปดาห์ที่แล้ว Xiaomi ได้ใช้ขั้นตอนที่ไม่เคยมีมาก่อนในการสตรีมสดกระบวนการเรียนรู้การเสริมกำลังสำหรับรุ่น MiMo-V2.6 ระดับแนวหน้า โดยออกอากาศแดชบอร์ดแบบเรียลไทม์ที่แสดงต้นทุนการประมวลผล บันทึกความล้มเหลว และอัตราส่วนการผสมข้อมูลการฝึกอบรมที่แน่นอน ซึ่งแตกต่างอย่างมากกับแนวทางปฏิบัติลับๆ ที่มักเกี่ยวข้องกับห้องปฏิบัติการชั้นนำของอเมริกา
Z.ai ได้ประกาศแผนการเมื่อสัปดาห์ที่แล้วเพื่อเปิดซอร์ส ZCode ผู้ช่วยเขียนโค้ด หลังจากเหตุการณ์ด้านความปลอดภัยที่ผู้ใช้ค้นพบว่าเครื่องมือกำลังอัปโหลดข้อมูลพื้นที่ทำงานในพื้นที่ไปยังเซิร์ฟเวอร์ภายนอกโดยไม่ได้รับความยินยอม บริษัทได้ออกมาขอโทษและให้คำมั่นที่จะเชิญผู้ตรวจสอบบุคคลที่สามให้ตรวจสอบโค้ดเบสของเครื่องมือ
ความเคลื่อนไหวขององค์กรดังกล่าวสอดคล้องกับการผลักดันด้านกฎระเบียบที่กว้างขึ้นจากปักกิ่ง ซึ่งเปิดตัว "กรอบการกำกับดูแลความปลอดภัยของ AI" ระดับชาติเมื่อวันที่ 14 กันยายน โดยเรียกร้องให้มีระเบียบปฏิบัติด้านความปลอดภัยที่เข้มงวดขึ้นและความร่วมมือระหว่างประเทศ
เปิด Weights เป็นสมรภูมิภูมิรัฐศาสตร์
กรอบการทำงานดังกล่าวยังเกิดขึ้นท่ามกลางการแข่งขันทางเทคโนโลยีที่ดุเดือดมากขึ้นระหว่างสหรัฐอเมริกาและจีน ซึ่งระบบน้ำหนักเปิดที่คุ้มต้นทุนได้กลายเป็นสมรภูมิหลัก
ในเดือนกรกฎาคม โมเดล Kimi K3 ของ Moonshot AI กลายเป็นหัวข้อข่าวด้วยการจับคู่หรือมีประสิทธิภาพเหนือกว่าระบบโอเพ่นซอร์สชั้นนำของสหรัฐอเมริกาจากการวัดประสิทธิภาพที่สำคัญหลายรายการ ตั้งแต่นั้นมา ระบบอื่นๆ ของจีน รวมถึง MiMo-V2.6-Pro ของ Xiaomi, Qwen3.8-Max ของ Alibaba และ GLM-5.3 ของ Z.ai ได้แซงหน้า Kimi K3 ในดัชนีข่าวกรองที่ดูแลโดย Artificial Analysis ซึ่งเป็นบริษัทเปรียบเทียบมาตรฐานในซานฟรานซิสโก
โมเมนตัมที่เพิ่มขึ้นของจีนได้จุดชนวนให้เกิดการถกเถียงกันในวอชิงตันเกี่ยวกับการห้ามใช้โมเดลโอเพ่นซอร์สจากต่างประเทศ หลังจากรายงานเมื่อเดือนกรกฎาคมที่ทำเนียบขาวกำลังชั่งน้ำหนักข้อจำกัดดังกล่าว กลุ่มพันธมิตรของบริษัทเทคโนโลยีชั้นนำของสหรัฐฯ ซึ่งรวมถึง Nvidia, Google และ OpenAI ได้ลงนามในจดหมายอุตสาหกรรมที่ต่อต้านการแบนในวงกว้าง โดยให้เหตุผลว่าระบบนิเวศโอเพ่นซอร์สที่แข็งแกร่งมีความสำคัญต่อการรักษาความเป็นผู้นำด้าน AI ของอเมริกา
กรอบการทำงานหมายถึงอะไรในการก้าวไปข้างหน้า
สำหรับผู้ปกป้อง AI แบบเปิด รายงานนี้แสดงให้เห็นถึงความพยายามในการแสดงให้เห็นว่าความเปิดกว้างและความปลอดภัยนั้นไม่ได้แยกจากกัน โดยสามารถจัดการความเสี่ยงได้ด้วยแนวทางปฏิบัติทางวิศวกรรมที่มีระเบียบวินัย แทนที่จะถูกจำกัดการเข้าถึง สำหรับนักวิจารณ์ ยังคงมีคำถามเปิดอยู่ว่าการดูแลจัดการข้อมูลก่อนเผยแพร่และการกำกับดูแลวงจรชีวิตสามารถชดเชยการเปลี่ยนแปลงไม่ได้พื้นฐานของน้ำหนักโมเดลการเผยแพร่หรือไม่
สิ่งที่ชัดเจนคือผู้ผลิตโมเดลน้ำหนักเปิดเชิงพาณิชย์รายใหญ่ที่สุดไม่ได้ละทิ้งการสนทนาเรื่องความปลอดภัยอีกต่อไป ขณะนี้นักพัฒนาชาวจีนกำลังครอบงำระบบนิเวศแบบเปิดและรัฐบาลตะวันตกกำลังถกเถียงกันเรื่องข้อจำกัด Z.ai และ Concordia AI กำลังวางเดิมพันว่ากรอบความเสี่ยงที่เป็นทางการและอิงตามหลักฐานเชิงประจักษ์จะกำหนดวิธีที่หน่วยงานกำกับดูแลทั้งสองด้านของมหาสมุทรแปซิฟิกเข้าถึงเทคโนโลยีนี้
ไม่ว่ากระบวนการหกขั้นตอนจะถูกนำมาใช้นอกเหนือจากนักพัฒนาของจีนหรือไม่ และไม่ว่าจะพิสูจน์ได้ว่ามีประสิทธิภาพในทางปฏิบัติหรือไม่ ก็มีแนวโน้มว่าจะกลายเป็นกรณีทดสอบสำหรับระยะต่อไปของการอภิปรายธรรมาภิบาล AI ระดับโลก
บทความนี้อ้างอิงจากรายงานของ South China Morning Post ซึ่งมี Alibaba เป็นเจ้าของ---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
