นักวิจัยเตือนว่าแบบจำลอง AI สามารถซ่อนความสามารถตามอำเภอใจไว้ในน้ำหนักได้

ทีมนักวิจัยอิสระได้แสดงให้เห็นว่าแบบจำลอง AI สามารถมีความสามารถที่ซ่อนอยู่ในการทำงานได้อย่างสมบูรณ์ ซึ่งรับประกันทางคณิตศาสตร์ว่าจะหลบเลี่ยงการตรวจจับ แม้ว่าผู้ตรวจสอบจะสามารถเข้าถึงน้ำหนักของแบบจำลองได้อย่างสมบูรณ์ก็ตาม บทความเรื่อง "AI Models Can Provable Hide Arbitrary Capabilities" ได้รับการโพสต์บน arXiv เมื่อวันที่ 9 ตุลาคม 2026 โดย Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas และ Christian Schroeder de Witt และได้รับความสนใจอย่างมากใน Hacker News ในสัปดาห์นี้หลังจากสร้างหน้าแรกของเว็บไซต์

งานดังกล่าวเกิดขึ้นที่สมมติฐานหลักของแนวปฏิบัติด้านความปลอดภัยของ AI สมัยใหม่ นั่นคือ พฤติกรรมที่เป็นอันตรายสามารถถูกแสดงออกมาก่อนการใช้งานผ่านการประเมินความสามารถ ซึ่งจะตรวจสอบแบบจำลองพร้อมการทดสอบที่ออกแบบมาเพื่อล้วงเอาทุกอย่างที่สามารถทำได้ ผู้เขียนแสดงให้เห็นว่าสมมติฐานนี้พังทลายลงภายใต้เงื่อนไขที่ไม่ตรงกัน ตามที่รายงานกล่าวไว้ ความน่าเชื่อถือของการประเมินความสามารถ "ขึ้นอยู่กับสมมติฐานที่ว่าความสามารถที่ซ่อนอยู่สามารถดึงออกมาได้" และพวกมันจะสร้างการโจมตีโดยที่สมมติฐานนั้นล้มเหลวอย่างพิสูจน์ได้ สำหรับผู้อ่านที่ติดตาม การพัฒนา AI ล่าสุด ในการวิจัยด้านความปลอดภัย บทความนี้ถือเป็นหนึ่งในการสาธิตอย่างเป็นทางการที่ชัดเจนที่สุดว่า โดยหลักการแล้ว โมเดลที่มีความสามารถสามารถผ่านการประเมินโดยปกปิดสิ่งที่สามารถทำได้จริง

แผนการซ่อนทำงานอย่างไร

นักวิจัยได้สร้างการโจมตีลับๆ ซึ่งฝังสิ่งที่พวกเขาเรียกว่าโครงข่ายประสาทเทียมที่เข้ารหัสไว้ภายในน้ำหนักของโมเดลโฮสต์ เครือข่ายที่ซ่อนอยู่นั้นอยู่ในรูปแบบที่เข้ารหัส โดยไม่ส่งผลต่อพฤติกรรมที่มองเห็นได้ของโมเดล จนกว่าจะได้รับการกระตุ้นที่เป็นความลับ เมื่อถึงจุดนั้น โมเดลจะถอดรหัสวงจรที่ซ่อนอยู่และดำเนินการ

กลไกการเข้ารหัสที่เป็นหัวใจสำคัญของการก่อสร้างคือสิ่งที่ผู้เขียนเรียกว่าตู้เก็บของดิจิทัล ภายใต้สมมติฐานด้านการเข้ารหัสมาตรฐาน ตู้เก็บของเหล่านี้ทำให้วงจรที่ซ่อนอยู่นั้นยากต่อการล้วงเอาและตีความได้ยาก แม้กระทั่งสำหรับผู้ตรวจสอบที่สามารถเข้าถึงน้ำหนักของแบบจำลองได้อย่างเต็มที่ กล่าวอีกนัยหนึ่ง การปกปิดไม่ได้ขึ้นอยู่กับการซ่อนตัวที่ละเอียดอ่อนหรือยากที่จะสะดุด ขึ้นอยู่กับการรับประกันความแข็งทางคณิตศาสตร์แบบเดียวกับที่ปกป้องการสื่อสารที่เข้ารหัส

สิ่งนี้ขยายขอบเขตการทำงานในภาคสนามก่อนหน้านี้ ซึ่งแสดงให้เห็นว่าโมเดลสามารถซ่อนสตริงคงที่ เช่น รหัสผ่านหรือข้อความสั้น รายงานฉบับใหม่ช่วยย้ายเสาประตูได้มาก สิ่งที่สามารถซ่อนได้ในขณะนี้คือการคำนวณตามอำเภอใจ ซึ่งเป็นความสามารถที่สมบูรณ์และใช้งานได้จริง แทนที่จะเป็นความลับคงที่

ทดสอบกับเทคนิคการตรวจสอบจริง

ทีมงานได้ใช้โครงสร้างการพิสูจน์แนวคิดใน PyTorch จากนั้นโจมตีพวกเขาด้วยชุดเครื่องมือมาตรฐานสำหรับการตรวจสอบแบบจำลอง การประเมินทดสอบการกระตุ้นด้วยการปรับแต่งอย่างละเอียด การเพิ่มน้ำหนัก การค้นหาทริกเกอร์แบบไล่ระดับ และการฝึกอบรมฝ่ายตรงข้ามที่แฝงอยู่ ซึ่งเป็นเทคนิคต่างๆ ที่แสดงให้เห็นว่าผู้ตรวจสอบที่จริงจังจะพยายามแยกพฤติกรรมที่ซ่อนอยู่ออกจากแบบจำลองที่น่าสงสัยเพียงใด

งานทดสอบเป็นปัญหาการทำนายปฏิกิริยาเคมีเล็กๆ น้อยๆ ที่ได้รับเลือกอย่างจงใจให้เป็นตัวแทนสำหรับความสามารถที่มีเดิมพันในโลกแห่งความเป็นจริง งานการทำนายทางเคมีเป็นงานเสริมสำหรับทักษะที่เกี่ยวข้องกับ CBRN (เคมี ชีวภาพ รังสีวิทยา และนิวเคลียร์) ซึ่งเป็นหมวดหมู่ของความสามารถที่การประเมินก่อนการปรับใช้งานให้ความสำคัญมากที่สุด การใช้งานที่ซ่อนอยู่นั้นต่อต้านวิธีการกระตุ้นทั้งหมดที่เกิดขึ้น

เมื่อรวมกับการรับประกันการเข้ารหัส ผู้เขียนโต้แย้งว่าผลลัพธ์ของพวกเขาเผยให้เห็นขีดจำกัดพื้นฐานของการตรวจสอบความสามารถตามการกระตุ้น หากนักพัฒนาโมเดล — หรือบุคคลที่สามที่เป็นอันตรายซึ่งดัดแปลงโมเดล — มีแรงจูงใจที่จะซ่อนความสามารถ การตรวจสอบที่ต้องอาศัยการดึงพฤติกรรมออกมาอาจไม่สามารถค้นหามันได้

เหตุใดจึงสำคัญสำหรับความปลอดภัยของ AI

การประเมินความสามารถได้กลายเป็นส่วนมาตรฐานในการที่ห้องปฏิบัติการ AI ระดับแนวหน้าตัดสินใจว่าโมเดลจะปลอดภัยที่จะเผยแพร่หรือไม่ บทความนี้ไม่ได้อ้างว่าโมเดลการผลิตกำลังซ่อนความสามารถด้วยวิธีนี้ แต่แสดงให้เห็นว่าชั้นการตรวจสอบเองก็มีจุดอ่อนทางโครงสร้าง กล่าวคือ ฝ่ายตรงข้ามที่ควบคุมการฝึกอบรมของแบบจำลองสามารถฝังความสามารถโดยหลักการแล้ว โดยหลักการแล้วจะไม่มีการตรวจสอบใด ๆ ที่จะเปิดเผยได้

ผลกระทบถูกตัดไปหลายทิศทาง สำหรับห้องปฏิบัติการ จะเสริมความแข็งแกร่งให้กับกรณีของการรักษาความปลอดภัยในห่วงโซ่อุปทานหวาดระแวงเกี่ยวกับน้ำหนักแบบจำลอง จุดตรวจสอบลับๆ ไม่ใช่แค่ความเสี่ยงด้านความน่าเชื่อถือเท่านั้น แต่ยังเป็นความเสี่ยงที่ตรวจไม่พบอีกด้วย สำหรับผู้ตรวจสอบและหน่วยงานกำกับดูแล การประเมินที่อิงจากการสุ่มตัวอย่างพฤติกรรมเพียงอย่างเดียวอาจจำเป็นต้องได้รับการเสริมด้วยการรับประกันที่เข้มงวดมากขึ้นเกี่ยวกับวิธีการฝึกอบรมและจัดการแบบจำลอง และสำหรับชุมชนการวิจัย ได้มีการกำหนดความท้าทายในการป้องกันอย่างเป็นรูปธรรม: ผู้เขียนได้เผยแพร่แบบจำลองของตนต่อสาธารณะโดยเฉพาะเพื่อสนับสนุนการปรับปรุงการป้องกันต่อการโจมตีประเภทนี้

บทความนี้ยังมีประเด็นทางปรัชญาที่กว้างกว่าอีกด้วย ความปลอดภัยของ AI ส่วนใหญ่ขึ้นอยู่กับแนวคิดที่ว่าเราสามารถทดสอบความมั่นใจได้ โดยทีมงานสีแดงที่เพียงพอจะค้นพบสิ่งที่แบบจำลองสามารถทำได้ กลไกการซ่อนที่พิสูจน์ได้ไม่ได้ทำให้การทดสอบไร้ประโยชน์ แต่หมายความว่าการผ่านการทดสอบทุกครั้งไม่สามารถถือเป็นข้อพิสูจน์ได้ว่าไม่มีอะไรให้ค้นหาอีกต่อไป เนื่องจากโมเดลชายแดนมีความสามารถมากขึ้นและมีความเป็นอิสระมากขึ้น ช่องว่างระหว่างสิ่งที่การตรวจสอบสามารถแสดงและโมเดลใดที่อาจมีอยู่นั้น จึงเป็นประเภทของปัญหาที่ภาคสนามจะถูกบังคับให้ต้องดำเนินการอย่างจริงจัง

บทความฉบับเต็มของผู้เขียน รวมถึงโครงสร้างการเข้ารหัสและรายละเอียดการประเมิน มีอยู่ใน arXiv และแบบจำลองการพิสูจน์แนวคิดที่เผยแพร่ ทำให้ผู้ปกป้องมีจุดเริ่มต้นที่เป็นรูปธรรมสำหรับวิธีการตรวจจับอาคารที่ทำงานกับการปกปิดแบบดิจิทัลล็อกเกอร์

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →