เมื่อคุณพูดคุยกับเพื่อนต่อหน้า คุณจะเห็นพวกเขา ได้ยินพวกเขา และจับมือพวกเขาได้ เมื่อคุณพูดคุยกับโมเดล AI คุณแทบจะไม่มีความมั่นใจเลย การวิจัยใหม่ของ Anthropic มุ่งเป้าไปที่ช่องว่างดังกล่าว: บริษัทได้เผยแพร่ความคืบหน้าเกี่ยวกับการพิสูจน์การเข้ารหัสลับ ซึ่งรวมถึงระบบที่เรียกว่า FlashProve ที่สามารถพิสูจน์ได้ในทางคณิตศาสตร์ ไม่ใช่เชิงสัญญา ว่าการตอบสนองนั้นมาจากแบบจำลองที่อ้างว่าเป็นจริงๆ

ที่อยู่ของปัญหา FlashProve นั้นมีโครงสร้างแบบเงียบๆ ผู้ใช้ที่สอบถามโมเดลในปัจจุบันไม่สามารถตรวจสอบได้ว่าคำตอบนั้นมาจากโมเดลเฉพาะที่นักพัฒนาอ้างว่ากำลังตอบสนอง ซึ่งตรงข้ามกับโมเดลที่ถูกแทนที่อย่างลับๆ ด้วยบริการกำหนดเส้นทางด้วยเหตุผลด้านต้นทุน หรือแม้แต่โดยผู้โจมตีที่ยุ่งเกี่ยวกับโทเค็นสตรีม การตัดสินจากผลลัพธ์เพียงอย่างเดียวนั้นไม่น่าเชื่อถือ แม้ว่าคำตอบจะดูดีก็ตาม ในอุตสาหกรรมที่หน้าต่างแชทเดียวกันสามารถกำหนดเส้นทางไปยังโมเดลที่ราคาถูกกว่าภายใต้ภาระงานได้อย่างเงียบๆ นั่นไม่ใช่เรื่องน่ากังวล แต่เป็นโมเดลความน่าเชื่อถือเริ่มต้น หากต้องการความครอบคลุมเพิ่มเติมเกี่ยวกับงานประเภทนี้ โปรดดู ข่าวการวิจัย AI ของเรา

เหตุใดการอนุมานที่พิสูจน์ได้จึงเป็นเรื่องยาก

เป้าหมายของการอนุมานที่พิสูจน์ได้คือการให้ผู้ใช้ที่มีทรัพยากรในการคำนวณจำกัด และไม่สามารถเข้าถึงน้ำหนักส่วนตัวของแบบจำลองได้ ตรวจสอบว่าการตอบสนองที่กำหนดนั้นสร้างขึ้นโดยแบบจำลองนั้นอย่างแท้จริง วิธีการที่ชัดเจนในการรันโมเดลด้วยตัวเองอีกครั้งนั้นไม่ใช่แนวทางเริ่มต้น: น้ำหนักของโมเดล Frontier จะถูกเก็บไว้เป็นส่วนตัว และการตรวจสอบการตอบสนองต่อโมเดลเหล่านั้นจะต้องใช้การประมวลผลมากกว่าที่ผู้ใช้ทั่วไป หรือแม้แต่ผู้ประเมินที่ได้รับทุนสนับสนุนจะสามารถทำได้

แนวทางของ Anthropic อาศัย zkSNARKs ซึ่งเป็นกลุ่มการพิสูจน์ความรู้ที่ไม่มีความรู้พร้อมคุณสมบัติการซ่อนที่แข็งแกร่งและประสิทธิภาพที่ทำให้พวกมันเหมาะสมกับงานนี้โดยเฉพาะ ผู้ให้บริการยอมรับโมเดลหนึ่งครั้ง จากนั้นสร้างการพิสูจน์แบบกระชับสำหรับแต่ละคำตอบว่าคำตอบนั้นคำนวณโดยโมเดลที่คอมมิต ในขณะที่ตัวพิสูจน์เองก็ซ่อนน้ำหนักของโมเดลไว้ การซ่อนสถาปัตยกรรมไม่ใช่เป้าหมายของระบบ การซ่อนน้ำหนักคือ

ตัวเลข

ตัวเลขด้านประสิทธิภาพในโพสต์ถือเป็นแกนหลักทางเทคนิคของเรื่องราว เนื่องจากการสร้างหลักฐานสำหรับโมเดลขนาดใหญ่ในอดีตถือเป็นเรื่องสำคัญที่ช้าเกินกว่าจะสำคัญได้ สำหรับ Llama 4 Maverick ซึ่งเป็นโมเดลที่ผู้เชี่ยวชาญผสมผสานกันซึ่งมีพารามิเตอร์ถึง 400 พันล้านพารามิเตอร์ NVIDIA H100 GPU ตัวเดียวจะสร้างการพิสูจน์ที่ประมาณ 110 โทเค็นต่อวินาที โดยมีขนาดการพิสูจน์ประมาณ 19 MB ต่อคำขอ 1,024 โทเค็น โดยใช้น้ำหนักเชิงปริมาณ 4 บิตและเลขคณิตจำนวนเต็มในการเติมล่วงหน้า

ความเร็วนั้นต้องแลกมาด้วยต้นทุน: การสร้างหลักฐานใช้เวลาประมาณ 70 ถึง 95 เท่าของเวลา GPU ของการรันโมเดลบน vLLM ซึ่งเป็นไลบรารีการอนุมานแบบโอเพ่นซอร์สที่ใช้กันอย่างแพร่หลาย กล่าวอีกนัยหนึ่งมีราคาแพง - แต่เป็นครั้งแรกในลำดับความสำคัญเดียวกันกับสิ่งที่ได้รับการพิสูจน์ และจากข้อมูลของ Anthropic นั้นเร็วกว่าระบบโอเพ่นซอร์สรุ่นก่อน ๆ อย่างมาก ซึ่งล่าช้าตามลำดับความสำคัญ

Claude เป็นคนสร้างมัน — และ Lean ตรวจสอบข้อเรียกร้อง

มีเรื่องที่สองพับอยู่ข้างในครั้งแรก ตามโพสต์ดังกล่าว Claude ได้ทำการปรับปรุง zkSNARK สำหรับการอนุมาน โดยค้นหาวิธีใหม่ๆ ในการใช้เครื่องมือที่ล้ำสมัยจากวิทยาการเข้ารหัสลับและเอกสารด้านความปลอดภัย ในขณะเดียวกันก็อาศัยหลักการออกแบบที่ได้รับการยอมรับอย่างดีสำหรับระบบพิสูจน์การเข้ารหัส

Anthropic เปิดเผยอย่างตรงไปตรงมาเกี่ยวกับความเสี่ยงที่มาพร้อมกับขั้นตอนการทำงานดังกล่าว Claude เชี่ยวชาญในการปรับให้เหมาะสม แต่มักจะตัดสินใจที่ประเมินได้ยาก โดยเฉพาะในระบบที่ซับซ้อนขนาดใหญ่ มาตรการตอบโต้คือการตรวจสอบอย่างเป็นทางการ บริษัทจัดทำข้อความที่ตรวจสอบได้ระดับสูงในภาษา Lean ซึ่งเป็นภาษาการตรวจสอบอย่างเป็นทางการสำหรับการรับประกันความปลอดภัยที่อ้างสิทธิ์ — คณิตศาสตร์ที่ตรวจสอบโดยเครื่องจักรซึ่งอยู่ระหว่างการเพิ่มประสิทธิภาพอันชาญฉลาดของ AI กับผู้ใช้ที่ต้องไว้วางใจพวกเขา

สแต็กเต็มได้รับการเผยแพร่ภายใต้ลิขสิทธิ์ Apache 2.0: โพสต์ในบล็อก รายงานทางเทคนิคที่อธิบายรายละเอียดของระบบ คำอธิบายโปรโตคอล โค้ดที่ปฏิบัติการได้ซึ่งรวมถึงตัวพิสูจน์และผู้ตรวจสอบสองตัว — ตัวตรวจสอบที่รวดเร็วใน C++ และตัวตรวจสอบที่ถูกต้องที่พิสูจน์ได้ใน Lean — บวกกับตัวพิสูจน์แบบ Lean เองและ Visualizer แบบโต้ตอบเพื่อช่วยในการตรวจสอบ

จากการปฏิบัติตามไปจนถึงสนธิสัญญา AI Pacing

ภาพร่างมานุษยวิทยาใช้กรณีต่างๆ ตั้งแต่งานประจำไปจนถึงงานภูมิรัฐศาสตร์ ผู้ประเมินอิสระที่ทดสอบโมเดล AI ก่อนและหลังการเปิดตัวจำเป็นต้องรู้ว่าโมเดลที่พวกเขากำลังประเมินคือโมเดลที่ให้บริการ ลูกค้าที่เข้าถึงโมเดลผ่านบริการกำหนดเส้นทางของบริษัทอื่นต้องการการรับประกันว่าโทเค็นมาจากโมเดลที่พวกเขาจ่ายเงิน และในสถานการณ์ด้านความปลอดภัย ผู้โจมตีทางไซเบอร์ที่ปรับเปลี่ยนโทเค็นสตรีมในขณะที่แอบอ้างเป็นโมเดลที่กำหนด จะถูกตรวจจับได้ในลักษณะที่การตรวจสอบเอาต์พุตเพียงอย่างเดียวไม่สามารถทำได้

แอปพลิเคชันที่ทะเยอทะยานที่สุดที่มีชื่ออยู่ในโพสต์คือการตรวจสอบการปฏิบัติตามข้อกำหนดด้านความเร็วของ AI ซึ่งเป็นข้อตกลงที่เกิดขึ้นใหม่ ทั้งแบบสมัครใจและแบบภาครัฐ ที่พยายามควบคุมว่าขีดความสามารถชายแดนจะก้าวหน้าไปอย่างรวดเร็วเพียงใด ปัจจุบันความมุ่งมั่นดังกล่าวขึ้นอยู่กับความไว้วางใจและเอกสาร การพิสูจน์อนุมานด้วยการเข้ารหัสช่วยให้มีบางสิ่งที่ใกล้ชิดกับการตรวจสอบมากขึ้น นั่นคือวิธีการสาธิต แทนที่จะยืนยันว่าโมเดลใดรองรับเวิร์กโหลดที่กำหนด

นักวิจัยมีความชัดเจนว่านี่เป็นความก้าวหน้าระดับกลาง ไม่ใช่วาระการวิจัยที่เสร็จสมบูรณ์ และพวกเขากำลังเผยแพร่โดยมีเป้าหมายที่ระบุไว้เพื่อให้ผู้อื่นรับงานและปรับปรุง การกำหนดกรอบดังกล่าวเป็นสัญญาณ: การอนุมานที่พิสูจน์ได้ได้เปลี่ยนจากการทดลองทางความคิดเกี่ยวกับการสัมมนาด้านการเข้ารหัสไปสู่ปัญหาทางวิศวกรรมที่ขณะนี้ห้องปฏิบัติการชายแดนกำลังแข่งกันอย่างเปิดเผยเพื่อให้ได้ราคาถูกพอที่จะนำไปใช้งาน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →