Anthropic ได้เริ่มให้ทีมจาก METR ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่ประเมินโมเดล Frontier AI "การเข้าถึงแบบพนักงาน" ไปยังระบบภายใน เช่น ฮาร์ดแวร์ของบริษัท พื้นที่สำนักงาน และเครื่องมือที่ใกล้เคียงกับสิ่งที่ทีมประเมินความเสี่ยงของตนเองใช้ เพื่อให้กลุ่มภายนอกสามารถประเมินความเสี่ยงของโมเดล Frontier ของ Anthropic ได้อย่างอิสระ และเผยแพร่สิ่งที่พบ

ข้อตกลงดังกล่าวซึ่งประกาศในบล็อกของ Anthropic เมื่อวันพุธ เป็นไปไกลกว่าความสัมพันธ์ในรูปแบบการตรวจสอบที่บริษัท AI มักจะยอมรับได้ และมาพร้อมกับข้อกำหนดที่โดดเด่น: METR จะเผยแพร่ผลการประเมินความเสี่ยง และ Anthropic ไม่สามารถยับยั้งการเผยแพร่ได้

จริงๆ แล้ว "การเข้าถึงแบบพนักงาน" หมายถึงอะไร

พนักงาน METR หกคนได้รับการติดตั้งฮาร์ดแวร์ของบริษัท พื้นที่สำนักงาน และการเข้าถึงเครื่องมือและระบบภายในที่ Anthropic อธิบายว่าพอๆ กับที่ทีมประเมินความเสี่ยงของบริษัทได้รับ นอกเหนือจากหมวดหมู่ที่กำหนดไว้อย่างชัดเจนจำนวนไม่มาก เช่น ข้อมูลเกี่ยวกับลูกค้า ข้อมูลสิทธิพิเศษของทนายความ-ลูกค้า และข้อมูลเกี่ยวกับสถาปัตยกรรมแบบจำลอง Anthropic กล่าวว่าพนักงานของบริษัทได้รับการสนับสนุนให้แบ่งปันข้อมูลกับทีมงาน METR เช่นเดียวกับที่พวกเขาทำกับเพื่อนพนักงานที่ทำงานเกี่ยวกับความเสี่ยงในการจัดตำแหน่ง

การมีส่วนร่วมนั้นแคบลงโดยเจตนา โดยครอบคลุมถึงทีมเล็กๆ ที่ดำเนินงานภายใต้ข้อตกลงที่บังคับใช้ และพนักงาน METR คนอื่นๆ จะถูกแยกออกจากงานของทีมนั้น รวมถึงนักวิจัยที่ร่วมมือกับ Anthropic ในโครงการอื่นๆ Anthropic ตั้งข้อสังเกตว่าการตั้งค่าดังกล่าวทำให้บุคลากรที่มีคุณสมบัติเหมาะสมจำนวนหนึ่งซึ่งทำงานภายใต้มาตรฐานความปลอดภัยของ Anthropic มองเห็นแนวทางการดำเนินงานของบริษัทอย่างใกล้ชิด ไม่ใช่ช่องทางสำหรับองค์กรอื่นในการรับข้อมูลของ Anthropic หรือของลูกค้า

สิทธิ์ในการตีพิมพ์พร้อม Guardrails

ภายใต้ข้อตกลงดังกล่าว METR จะเผยแพร่การวิเคราะห์ระดับความเสี่ยง เหตุการณ์ หรือแนวทางปฏิบัติของ Anthropic Anthropic ไม่สามารถบล็อกการตีพิมพ์ได้ แต่อาจต้องมีการดำเนินการแก้ไขเมื่อข้อมูลอยู่ในหมวดหมู่ที่กำหนดไว้ล่วงหน้าตามที่อธิบายไว้ข้างต้น และ Anthropic เองก็เป็นผู้ตัดสินใจว่าสิ่งใดเข้าข่ายหรือไม่อยู่ในหมวดหมู่เหล่านั้น ในส่วนของ METR ขอสงวนสิทธิ์ในการจัดทำแถลงการณ์บางอย่างเกี่ยวกับระดับการเข้าถึงและข้อมูลที่ได้รับ ซึ่งเป็นน้ำหนักถ่วงที่ออกแบบมาเพื่อป้องกันไม่ให้อำนาจการเขียนทับกลายเป็นปุ่มปิดเสียง

ทำไมมานุษยวิทยาจึงเปิดกว้าง

การเคลื่อนไหวดังกล่าวเป็นไปตามความมุ่งมั่นที่ Anthropic ทำไว้เมื่อเดือนที่แล้วในการประเมินโมเดลและแนวทางปฏิบัติด้านความปลอดภัยโดยหน่วยงานอิสระที่แข็งแกร่งยิ่งขึ้น และการลงนามในข้อตกลงทำเนียบขาวเรื่อง Super Intelligence ซึ่งบริษัท AI ให้คำมั่นที่จะร่วมมือกับผู้ตรวจสอบภายนอกหรือผู้ประเมินอิสระ นอกจากนี้ยังขยายความสัมพันธ์ที่มีอยู่: ในปีที่ผ่านมา Anthropic ทำงานร่วมกับ METR ในการทบทวนรายงานความเสี่ยงหลายครั้ง

METR ไม่ได้อยู่คนเดียวในพอร์ตโฟลิโอ Anthropic กล่าวว่ากำลังทำงานร่วมกับ SecureBio และ Accenture ในฐานะผู้ประเมิน โดยคณะของ Accenture ได้รับการเสนอชื่อให้เป็นผู้ประเมินแบบฝังตัวคนแรกของบริษัทในเดือนกันยายน และอยู่ในระหว่างการเจรจาในช่วงต้นกับองค์กรอื่นๆ หลายแห่ง รวมถึง Hugging Face ความร่วมมือในระยะเริ่มต้นเหล่านี้มาพร้อมกับการเข้าถึงข้อมูลและสิทธิ์ในการเผยแพร่ที่จำกัดมากขึ้น ในขณะที่บริษัทได้เรียนรู้ว่าความร่วมมือประเภทใดทำงานอย่างไร

การเปรียบเทียบการกำกับดูแลธนาคาร

กรอบความคิดของมานุษยวิทยาเองยืมมาจากการเงิน ธนาคารต่างๆ รู้เกี่ยวกับสถานะความเสี่ยงของตนเองมากกว่าบุคคลภายนอก ดังนั้นหน่วยงานกำกับดูแลจึงมอบหมายให้ผู้ตรวจสอบประจำทำงานภายในธนาคารที่ใหญ่ที่สุด หากการเสี่ยงของธนาคารสามารถคุกคามสาธารณะได้ บุคคลที่สามจะพยายามตรวจสอบสิ่งนั้นล่วงหน้า บริษัทวางตำแหน่งการประเมินแบบฝังตัวให้เป็นเวอร์ชันของตรรกะของอุตสาหกรรม AI ซึ่งเป็นก้าวสู่การกำกับดูแลความปลอดภัยที่แข็งแกร่งในด้านที่ผู้สร้างรู้มากกว่าผู้เฝ้าระวังเสมอ

รากฐานทั้งหมดคือเป้าหมายที่ระบุไว้ นั่นคือการปิดช่องว่างระหว่างสิ่งที่ผู้ประเมินอิสระเข้าใจเกี่ยวกับระบบของบริษัท AI ระดับแนวหน้า และสิ่งที่บริษัทเข้าใจเอง

สิ่งที่ผู้ประเมินต้องการ

การประกาศยังระบุถึงสิ่งที่ Anthropic คิดว่าการประเมินที่มีความหมายต้องการ: ความเชี่ยวชาญในการประเมินความสามารถของโมเดลชายแดน รวมถึงการทำความเข้าใจว่าการประเมินอาจผิดพลาดได้อย่างไรผ่านปรากฏการณ์ต่างๆ เช่น การปลอมแปลงการจัดตำแหน่ง ความเป็นอิสระ หมายถึงไม่มีการพึ่งพาความเสมอภาคทางการเงินหรือการดำเนินงานกับบริษัทที่กำลังประเมิน การเข้าถึงที่เพียงพอเพื่อประเมินความเสี่ยงอย่างมีความหมาย ครอบคลุมมากกว่าแบบจำลองล่าสุดถึงวิธีการฝึกอบรมและวิธีการทำงานของการป้องกัน และเสรีภาพในการเผยแพร่ข้อสังเกตและการประเมินแบบจำลองหรือกระบวนการ

กรณีทดสอบสำหรับทั้งอุตสาหกรรม

การจัดเตรียมจะถูกตัดสินจากผลลัพธ์ การประเมินที่เผยแพร่ครั้งแรกของ METR ภายใต้ระบบการเข้าถึงใหม่จะแสดงให้เห็นว่าการเข้าถึงที่เหมือนกับพนักงานก่อให้เกิดผลการค้นพบที่เกิดขึ้นจริงหรือไม่ หรือรายงานที่ถูกตัดทอนตามหมวดหมู่การแก้ไขที่บริษัทกำหนดเอง ผู้คลางแค้นจะทราบว่า Anthropic ควบคุมขอบเขตหมวดหมู่และทีมนำร่องมีขนาดเล็ก ผู้สนับสนุนจะทราบว่าสิ่งพิมพ์ที่ถูกต้อง Anthropic ไม่สามารถยับยั้งได้นั้นเป็นเรื่องแปลกใหม่อย่างแท้จริงในห้องปฏิบัติการชายแดน

ไม่ว่าจะด้วยวิธีใด อุตสาหกรรมก็จับตาดูอยู่ หากการเข้าถึงแบบฝังตัวของ METR เปิดเผยการค้นพบวัสดุและเผยแพร่โดยไม่มีข้อบกพร่อง โมเดลดังกล่าวจะกลายเป็นเทมเพลตที่ชัดเจนสำหรับห้องปฏิบัติการทุกแห่งที่ลงนามในข้อตกลงทำเนียบขาว และเป็นเกณฑ์มาตรฐานสำหรับผู้กำหนดนโยบายที่ชั่งน้ำหนักว่าการกำกับดูแลโดยสมัครใจสามารถทดแทนการตรวจสอบตามคำสั่งได้หรือไม่ เพื่อความครอบคลุมอย่างต่อเนื่องเกี่ยวกับนโยบายความปลอดภัยของ AI และ ข่าวอุตสาหกรรม AI ที่เป็นตัวกำหนดทิศทาง AI Buzz Wire จะติดตามการพัฒนาแต่ละรายการในขณะที่มีการเปลี่ยนแปลง

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →