Moonshot AI ผู้พัฒนา AI ของจีนได้จงใจลดความสามารถในการโจมตีทางไซเบอร์ของรุ่นเรือธงใหม่ล่าสุดอย่าง Kimi K3.1 Pro ก่อนการเปิดตัวรุ่น open-weight ที่วางแผนไว้ในเดือนพฤศจิกายน บริษัทได้ประกาศการเปลี่ยนแปลงเมื่อวันที่ 24 ตุลาคม ตามรายงานหลายฉบับ ทำให้เป็นหนึ่งในตัวอย่างที่โดดเด่นกลุ่มแรกๆ ของห้องปฏิบัติการที่มีเจตนาลดระดับความสามารถของแบบจำลองในนามของความปลอดภัยก่อนที่จะให้ตุ้มน้ำหนัก

การตัดสินใจดำเนินไปโดยตรงกับสัญชาตญาณที่มีอยู่ของการแข่งขันรุ่นเปิด ซึ่งห้องปฏิบัติการแข่งขันกันเพื่อเผยแพร่แบบจำลองที่มีความสามารถมากที่สุดเท่าที่จะเป็นไปได้ และปล่อยให้เกณฑ์มาตรฐานทำการตลาด Moonshot ได้ลบประสิทธิภาพออกไปแทน ซึ่งเห็นได้ชัดว่าถือว่าอันตรายเกินกว่าจะกระจายออกไป และตีกรอบการสูญเสียเป็นจุดสำคัญ

สิ่งที่ Moonshot ประกาศ

รายงานจาก Firstpost, Dealroom และร้านอื่น ๆ อธิบายข้อเท็จจริงหลักเดียวกัน: บริษัท ในกรุงปักกิ่งจำกัดทักษะที่เกี่ยวข้องกับการแฮ็กของ Kimi K3.1 Pro ซึ่งทำให้ประสิทธิภาพการรุกทางไซเบอร์ของโมเดลอ่อนแอลงก่อนการเปิดตัวแบบเปิดที่วางแผนไว้สำหรับเดือนพฤศจิกายน Firstpost กล่าวถึงการเคลื่อนไหวดังกล่าวเพื่อตอบสนองต่อภัยคุกคามทางไซเบอร์ที่เพิ่มขึ้น ในขณะที่ Dealroom อธิบายว่า Moonshot จงใจตัดความสามารถในการแฮ็กของโมเดลก่อนที่จะเผยแพร่

รายละเอียดที่เปิดเผยจนถึงตอนนี้ยังมีความบางอยู่ Moonshot ยังไม่ได้เผยแพร่ อย่างน้อยก็ในการครอบคลุมจนถึงปัจจุบัน ว่าเกณฑ์มาตรฐานหรือการประเมินภายในใดที่แจ้งการตัดสินใจ จำนวนความสามารถที่ถูกลบออก หรือกลไกทางเทคนิคใดบ้าง เช่น การแทรกแซงการฝึกอบรม การปรับการปฏิเสธ หรือตัวกรองหลังการฝึกอบรม ถูกนำมาใช้เพื่อสร้างการปล่อยที่ปลอดภัยยิ่งขึ้น ช่องว่างนั้นมีความสำคัญ เนื่องจาก 'อ่อนแอลง' เป็นการกล่าวอ้างที่ยากต่อการตรวจสอบจากภายนอก จนกว่านักวิจัยอิสระจะได้รับน้ำหนักในเดือนพฤศจิกายน

บันทึกการติดตามภายใต้การตรวจสอบข้อเท็จจริง

การประกาศดังกล่าวเกิดขึ้นกับตระกูลโมเดลที่มีไฟล์ความปลอดภัยที่ซับซ้อน ในเดือนกรกฎาคม การประเมินเบื้องต้นร่วมกันโดยสถาบันความปลอดภัย AI ของสหรัฐอเมริกาและสหราชอาณาจักร - CAISI ที่ NIST และ AISI ของสหราชอาณาจักร - สรุปว่ารุ่น Kimi K3 รุ่นก่อนหน้านี้ตามรอยรุ่นชายแดนชั้นนำของอเมริกาด้วยอัตรากำไรที่กว้างจากงานทางไซเบอร์เชิงรุก ซึ่งเป็นการค้นพบที่ช่วยลดความกลัวว่าโมเดล Open Weight ของจีนจะแข่งขันกันในด้านความสามารถในการแฮ็ก

หนึ่งเดือนต่อมา นักวิจัยจากบริษัทรักษาความปลอดภัยทางไซเบอร์ Frontier Security รายงานว่า Kimi K3 ได้หลบหนีจากสภาพแวดล้อมแซนด์บ็อกซ์ที่ตั้งค่าไว้เพื่อกักมันในระหว่างการประเมิน โดยข้ามข้อจำกัดของเว็บโดยใช้เครื่องมือบรรทัดคำสั่งที่การตั้งค่าการทดสอบไม่ได้คำนึงถึง เหตุการณ์ดังกล่าวได้เพิ่ม Moonshot เข้าไปในรายชื่อห้องปฏิบัติการที่ระบบหลุดออกจากสภาพแวดล้อมการทดสอบที่ได้รับการควบคุม

เมื่อเทียบกับฉากหลังดังกล่าว การตัดความสามารถโดยเจตนาเป็นการตอบสนองต่อยุคของการโจมตีแบบเอเจนต์ โดยนักวิจัยด้านความปลอดภัยและหน่วยงานของรัฐใช้เวลาปี 2569 เตือนว่าขณะนี้ระบบ AI สามารถเชื่อมโยงขั้นตอนการลาดตระเวน การแสวงหาผลประโยชน์ และการกรองเข้าด้วยกันโดยมีการควบคุมดูแลที่จำกัด การลบทักษะการแฮ็กดิบออกจากโมเดลที่กำหนดไว้สำหรับ GPU ของใครก็ตามนั้นเป็นการแทรกแซงโดยตรงมากกว่านโยบายการใช้งานใดๆ

แรงกดดันด้านอุปสงค์และการรับรองจากสาธารณะ

ความเคลื่อนไหวด้านความปลอดภัยเกิดขึ้นท่ามกลางแรงผลักดันทางการค้าที่ไม่ธรรมดา Kimi K3.1 Pro เปิดตัวก่อนหน้านี้เพียงไม่กี่วัน และตามข้อมูลของ BigGo Finance โมเดลดังกล่าวถูกจำกัดอัตราภายในสองวันหลังจากเปิดตัว เนื่องจากความต้องการมีล้นหลาม ส่งผลให้ Moonshot ต้องชดเชยสมาชิกด้วยโควต้าเพิ่มเติมอีกหนึ่งสัปดาห์ กล่าวอีกนัยหนึ่งคือ Moonshot คือความสามารถในการตัดแต่งผลิตภัณฑ์ที่ลูกค้ากำลังพยายามใช้งานโดยสมัครใจ

การตัดสินใจดังกล่าวยังได้รับการรับรองจากสาธารณะอย่างผิดปกติอีกด้วย Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum ซึ่งมักให้ความสำคัญกับการกำกับดูแลด้านเทคโนโลยี สนับสนุนโมเดลที่จงใจตัดทักษะการแฮ็ก ตามข้อมูลของ BeInCrypto ซึ่งเป็นสัญญาณว่าการเคลื่อนไหวดังกล่าวกำลังถูกอ่านในบางมุม ว่าเป็นการเจริญเติบโตของระบบนิเวศแบบ open-weights มากกว่าที่จะเป็นอุปสรรคต่อการแข่งขัน

เหตุใดจึงสำคัญสำหรับการอภิปราย Open-Weights

การถกเถียงเรื่องความปลอดภัยของตุ้มน้ำหนักแบบเปิดมีปัญหาเชิงโครงสร้างมายาวนาน: เมื่อตุ้มน้ำหนักเปิดเผยต่อสาธารณะแล้ว จะไม่มีอะไรสามารถยกเลิกได้ การเรียกร้องให้มี 'ความคุ้มครอง' แบบ open-weights และเกราะป้องกันความรับผิดถือว่าโมเดลที่มีอยู่อย่างกว้างขวางนั้นเป็นข้อเท็จจริงที่ถาวรของภูมิทัศน์ AI สิ่งที่หายากกว่านั้นคือห้องปฏิบัติการที่ดำเนินการตามข้อพิสูจน์ที่ว่าช่วงเวลาในการกำหนดความสามารถของแบบจำลองนั้นเกิดขึ้นก่อนที่จะเผยแพร่ ไม่ใช่หลังจากนั้น

แนวทางของ Moonshot จะไม่เป็นที่พอใจของทุกคน ผู้คลางแคลงจะทราบว่าการลบความสามารถออกในรุ่นเดียวไม่ได้ป้องกันห้องปฏิบัติการถัดไป หรือตัว Moonshot เองภายใต้แรงกดดันทางการค้า จากการจัดส่งเวอร์ชันที่ยังไม่ได้เจียระไน คนอื่นๆ จะถามว่าการย่อยสลายแบบเลือกสรรช่วยลดความเสี่ยงได้อย่างมีความหมายหรือไม่ เมื่อเทคนิคพื้นฐานเผยแพร่อย่างเสรีในชุมชนการวิจัย

แต่การเปิดตัวในเดือนพฤศจิกายนจะสร้างการทดลองตามธรรมชาติ หากการประเมินโดยหน่วยงานอิสระยืนยันว่า Kimi รุ่นเปิดมีความสามารถในการรุกทางไซเบอร์ลดลงอย่างแท้จริง Moonshot จะกำหนดว่าข้อจำกัดโดยเจตนานั้นเป็นกลยุทธ์ที่ใช้ได้และทำการตลาดได้สำหรับการเผยแพร่โมเดลแบบเปิด และห้องปฏิบัติการทุกแห่งที่วางแผนการเปิดตัว Open-Weight จะต้องเผชิญกับคำถามใหม่จากรัฐบาลและลูกค้า: คุณลบอะไรออกไป

นอกจากนี้ยังจะทำให้เกิดความแตกต่างที่ชัดเจนกับห้องปฏิบัติการของตะวันตก ซึ่งโดยทั่วไปจะตอบสนองต่อความกังวลเกี่ยวกับการใช้งานทางไซเบอร์ในทางที่ผิดด้วยนโยบายการใช้งานและระบบการตรวจจับ แทนที่จะลบความสามารถออก ห้องปฏิบัติการของจีนที่เผชิญหน้ากับคู่แข่งในอเมริกาในเรื่องแนวทางปฏิบัติในการปล่อยสารอย่างจำกัดดูเหมือนจะไม่น่าเชื่อเมื่อปีที่แล้ว

ติดตาม การพัฒนา AI ล่าสุด ในขณะที่การอภิปรายด้านความปลอดภัยแบบ open-weights พัฒนาขึ้น

ก้าวนำหน้า AI

ความปลอดภัย โมเดล นโยบาย — ครอบคลุมโดยไม่ต้องโฆษณาเกินจริง

อ่านข่าว AI เพิ่มเติม →