Anthropic เผยแพร่รูปลักษณ์ที่ไม่ซ้ำใครภายในขั้นตอนการพัฒนาของตนเองในสัปดาห์นี้ โดยเปิดเผยว่าโมเดล Claude ของตนตอนนี้ "เป็นผู้นำ" 26% ของงานวิจัยและพัฒนา AI ของบริษัท เพิ่มขึ้นจากต่ำกว่า 1% ในเดือนกุมภาพันธ์ 2569 ตัวเลขดังกล่าวปรากฏในบล็อกโพสต์ของบริษัทในหัวข้อ "การวัดเพื่อทำความเข้าใจจังหวะของการพัฒนา AI ภายในห้องปฏิบัติการชายแดน" เผยแพร่โดย Anthropic เมื่อวันที่ 17 กันยายน และรายงานโดย Reuters, The Washington Post และอื่นๆ ร้านจำหน่าย

โพสต์นี้ส่วนหนึ่งเป็นแบบฝึกหัดที่โปร่งใสและส่วนหนึ่งเป็นข้อโต้แย้ง: Anthropic ต้องการให้ห้องปฏิบัติการชายแดนอื่นๆ เผยแพร่ตัวเลขประเภทเดียวกัน เพื่อให้สาธารณะและรัฐบาลสามารถติดตามความเร็วที่ AI ได้รับการมอบกุญแจในการสร้าง AI For more context on this story, see our ongoing AI news.

ตัวเลขสามตัวเพื่อติดตามการพัฒนา AI

บริษัทเสนอการวัดผล 3 แบบที่ระบุว่าให้ความกระจ่างถึงการพัฒนาภายในห้องปฏิบัติการชายแดน ได้แก่ AI ดำเนินการ R&D มากเพียงใด การทำงานของตัวแทน AI ได้รับการดูแลดีเพียงใด และวิธีจัดสรรการประมวลผลระหว่างการทำงานด้านขีดความสามารถและงานด้านความปลอดภัย

หมายเลขพาดหัวมาจากสิ่งที่ Anthropic เรียกว่า R&D Automation Index บริษัทจัดทำแคตตาล็อกงาน R&D AI ทุกประเภทที่ทำในบริษัท จัดอันดับความอัตโนมัติของงานแต่ละงานในปัจจุบัน และรวบรวมผลลัพธ์โดยใช้ขนาดที่พัฒนาโดยกลุ่มวิจัย Epoch AI ระดับเริ่มจาก AL0 (ไม่เกี่ยวข้องกับ AI) ไปจนถึง AL5 (AI ทำงานอัตโนมัติเต็มรูปแบบโดยไม่มีมนุษย์อยู่ในวงจร) โดย AL3 หมายถึง AI "ทำงานร่วมกัน" ในงานชิ้นใหญ่ภายใต้การดูแลอย่างใกล้ชิดของมนุษย์ และ AL4 หมายถึง AI "เป็นผู้นำ" และทำให้งานส่วนใหญ่เสร็จสิ้นตั้งแต่ต้นทางถึงปลายทางจากการแจ้งเตือนระดับสูงในขณะที่มนุษย์ควบคุมดูแล

ณ เดือนสิงหาคม 2026 Anthropic รายงานว่า Claude เป็นผู้นำ 26% ของงาน R&D AI ของบริษัท ส่วนแบ่งการทำงานในระดับ "ความร่วมมือ AI" หรือสูงกว่านั้นสูงกว่า 90% Claude ไม่ได้ทำงานโดยอัตโนมัติอย่างสมบูรณ์สำหรับงานด้าน AI R&D ที่วัดผลได้

ตัวแทน 30,000 ราย หนึ่งจอภาพ

การวัดผลครั้งที่สองเกี่ยวข้องกับการกำกับดูแล Anthropic เปิดเผยว่า ณ เดือนสิงหาคม 2569 มีตัวแทนประมาณ 30,000 รายที่ทำงานวิจัยและวิศวกรรมของบริษัทในแต่ละครั้งบนแพลตฟอร์มภายในที่มีการใช้งานมากที่สุด

ทุกการกระทำที่ตัวแทนเหล่านั้นทำจะต้องผ่านการตรวจสอบออนไลน์ก่อนที่จะดำเนินการ โดยปกติภายในไม่กี่วินาที ตามโพสต์ Anthropic กล่าวว่าได้วิเคราะห์การตัดสินใจกว่าพันล้านการตัดสินใจจากตัวแทนด้านการวิจัยและวิศวกรรมในช่วงเดือนสิงหาคม และพบว่าส่วนแบ่งของกิจกรรมที่ถูกบล็อกหรือเพิ่มขึ้นโดยจอภาพคือ 0.002%

ในการจัดสรรการประมวลผล การวัดครั้งที่สาม บริษัทกล่าวว่าตลอดสัปดาห์ที่ตรวจสอบ ประมาณ 6% ของการประมวลผลที่ไปที่ AI R&D ได้รับการจัดสรรเพื่อความปลอดภัย

สร้างผู้สืบทอดของตัวเอง — โดยมีมนุษย์คอยดูแล

การจัดเฟรมมีความสำคัญพอๆ กับตัวเลข โมเดลของ Anthropic มีส่วนร่วมมากขึ้นในการสร้างโมเดลรุ่นต่อไปของโมเดลเดียวกัน ซึ่งนักวิจัยเรียกว่าการพัฒนาตนเองแบบเรียกซ้ำ และสิ่งที่พาดหัวของ The Washington Post อธิบายอย่างตรงไปตรงมามากขึ้นว่าเป็นแชทบอท "รับช่วงต่องานสร้างผู้สืบทอดของตัวเอง"

Anthropic ระมัดระวังในการวาดเส้นแบ่งระหว่าง "AI Lead" และ "AI แทนที่" ที่ AL4 มนุษย์ยังคงดูแลและสามารถแทรกแซงได้ บริษัทรายงานอย่างชัดเจนว่าไม่มีงานย่อยที่วัดได้ของงาน R&D ทำงานที่ AL5 แต่แนวโน้มนั้นสูงชัน โดยการเพิ่มจากต่ำกว่า 1% เป็น 26% ในเวลาประมาณเจ็ดเดือนแสดงให้เห็นว่าส่วนแบ่งของงานที่นำโดย AI อาจผ่านไปได้ครึ่งหนึ่งก่อนสิ้นทศวรรษหากแนวโน้มปัจจุบันยังคงอยู่

วิธีการนี้มีข้อจำกัดที่แท้จริง และ Anthropic ก็กล่าวไว้เช่นนั้น การให้คะแนนระบบอัตโนมัติจัดทำขึ้นโดยการสุ่มตัวอย่างบันทึกการทำงานของบริษัท รวมถึงข้อความ Slack และเอกสารภายใน และให้ทั้งมนุษย์และผู้ตัดสินประเมินว่าแต่ละงานเป็นอัตโนมัติเพียงใด ในการทดสอบแบบปกปิด เจ้าหน้าที่ให้คะแนนงานโดยไม่รู้ว่าโมเดลรวบรวมหลักฐานอะไรได้บ้าง บริษัทรายงานว่าผู้ตัดสินโมเดลเห็นด้วยกับมนุษย์บ่อยเท่าที่มนุษย์ตกลงกัน: ข้อตกลงระหว่างโมเดลกับมนุษย์ที่แน่นอนคือ 59% ในขณะที่ข้อตกลงระหว่างมนุษย์กับมนุษย์มีเพียง 35% และการจัดอันดับโมเดลและมนุษย์ตกลงภายในระดับเดียวของกันและกัน 97% ของเวลาทั้งหมด

บริษัทยังยอมรับความเสี่ยงในการอ้างอิงตนเองในวิธีการของตนเอง: Anthropic ใช้แบบจำลองของตัวเองเพื่อช่วยประเมินระบบ ซึ่งอาจหมายความว่าแบบจำลองการตัดสินทำให้เกิดข้อผิดพลาดประเภทเดียวกันกับแบบจำลองที่กำลังตรวจสอบ การยืนยันโดยบุคคลที่สามยืนยันว่าเป็นคำตอบที่แท้จริง

ดวงตาภายนอกกำลังมา

ด้วยเหตุนี้ Anthropic จึงวางแผนที่จะฝังผู้ประเมินบุคคลที่สามอิสระจากหลายองค์กรภายในบริษัท ทำให้พวกเขาสามารถเข้าถึงกระบวนการภายใน ระบบ และข้อมูลที่สามารถเทียบเคียงได้กับทีมประเมินความเสี่ยงภายใน ก่อนหน้านี้ METR ซึ่งเป็นองค์กรไม่แสวงผลกำไรด้านการวิจัย AI ภายนอกได้เป็นทีมสีแดงในแพลตฟอร์มการตรวจสอบออฟไลน์ของ Anthropic

การเปิดเผยเกิดขึ้นท่ามกลางการถกเถียงที่ทวีความรุนแรงเกี่ยวกับการเว้นจังหวะ Dario Amodei ซีอีโอด้านมานุษยวิทยาเรียกร้องให้มีการประสานงานในการชะลอพรมแดน และบริษัทตั้งข้อสังเกตว่าจำนวนของบริษัทคาดว่าจะมีการเปลี่ยนแปลงหากมีการประสานงานดังกล่าว สัปดาห์นี้ Anthropic และ OpenAI ยังเป็นหัวข้อของจดหมายสาธารณะจากผู้เชี่ยวชาญด้านความปลอดภัยที่โต้แย้งว่าห้องปฏิบัติการต้องการผู้ประเมินความปลอดภัยที่เป็นอิสระอย่างแท้จริง

คู่แข่งจะติดตามการนำของ Anthropic หรือไม่นั้นเป็นคำถามเปิด บริษัทโต้แย้งว่าผู้พัฒนาชายแดนสามารถเผยแพร่มาตรการเหล่านี้เป็นประจำโดยใช้วิธีการสาธารณะ ตัวเลขสาธารณะเพียงหมายเลขเดียวเท่านั้นที่ระบุว่า AI สร้าง AI ได้เร็วแค่ไหนนั้นมาจากห้องแล็บเองจนกว่าจะเป็นเช่นนั้น

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →