Anthropic กำลังปรับปรุงความสามารถของโมเดล AI ประมาณสองเท่าเร็วขึ้นในปีที่แล้ว และการเร่งความเร็วส่วนใหญ่นั้นดูเหมือนจะมาจากระบบ AI ที่ช่วยสร้างผู้สืบทอดของตนเอง ตามการวิเคราะห์อิสระที่เผยแพร่เมื่อวันพฤหัสบดีโดยกลุ่มประเมินที่ไม่แสวงหากำไร METR

การค้นพบนี้รายงานโดย Associated Press มีน้ำหนักที่ผิดปกติเนื่องจากขึ้นอยู่กับสิ่งที่ METR อธิบายว่าเป็น "การเข้าถึงข้อมูลภายในของ Anthropic อย่างที่ไม่เคยมีมาก่อน" นักวิจัยจากกลุ่ม Berkeley รัฐแคลิฟอร์เนีย ซึ่งมีชื่อเต็มว่า Model Evaling and Threat Research ได้รับเชิญภายในบริษัทเป็นเวลาประมาณ 11 สัปดาห์ ตั้งแต่กลางเดือนสิงหาคมถึงปลายเดือนตุลาคม เพื่อวิเคราะห์ข้อมูลการวิจัยภายในและสัมภาษณ์เจ้าหน้าที่

สำหรับผู้อ่านที่ติดตามการอภิปรายด้านความปลอดภัยรอบห้องปฏิบัติการชายแดน โปรดดูการรายงานข่าวของ ข่าวด่วน AI

การค้นพบหลัก: ความก้าวหน้ากำลังทบต้น

การประมาณการที่สำคัญของ METR ก็คือ Anthropic กำลังปรับปรุงประสิทธิภาพของโมเดลในงานที่มีการระบุอย่างดีเร็วขึ้นประมาณสองเท่าจากปีก่อน รายงานระบุอย่างชัดเจน: "ดูเหมือนว่ามานุษยวิทยาจะมีความก้าวหน้าในเรื่องเกณฑ์มาตรฐานในปีที่ผ่านมามากเท่ากับที่เคยทำระหว่างเดือนตุลาคม 2566 ถึงตุลาคม 2568"

ผลที่ตามมายิ่งกว่าคือสิ่งที่ METR เชื่อว่ากำลังขับเคลื่อนการเร่งความเร็ว นักวิจัยกล่าวว่าพวกเขาสามารถ "มั่นใจ" ขจัดการเติบโตของพลังการประมวลผลอันเป็นสาเหตุ ซึ่งโดยปกติแล้วตัวแปรจะเชื่อมโยงอย่างแน่นหนาที่สุดกับประสิทธิภาพของโมเดล ข้อสรุปของพวกเขา: การปรับปรุงส่วนใหญ่ขึ้นอยู่กับการใช้ AI เพื่อทำการวิจัย AI

Anthropic ยอมรับว่า Chatbot ของ Claude ช่วยให้บริษัทพัฒนาเวอร์ชันที่ใหม่กว่าและก้าวหน้ายิ่งขึ้นได้มากขึ้น รายงานของ METR ไม่พบ "ปัญหาคอขวด" เช่น ข้อจำกัดด้านการประมวลผลหรือข้อมูล ที่ทำให้กระบวนการดังกล่าวหยุดชะงัก และตั้งข้อสังเกตว่าในขณะที่ AI ยังไม่ได้ "มีส่วนร่วมที่มีนัยสำคัญสูงและเป็นอิสระอย่างเต็มที่" ในส่วนที่สำคัญที่สุดของการฝึกอบรมโมเดล นักวิจัยด้านมานุษยวิทยาได้อธิบาย "สัญญาณแห่งชีวิต" ที่สำคัญซึ่งบอกเป็นนัยว่าอาจมีการเปลี่ยนแปลงในไม่ช้า

ผลการวิจัยทำให้เกิดการถกเถียงกันในช่วงกลางเดือน

จังหวะเวลาเป็นเรื่องที่น่าอึดอัดใจสำหรับบริษัทที่ผู้บริหารระดับสูงพยายามล็อบบี้เพื่อยับยั้งชั่งใจ ในช่วงการประเมินของ METR นั้น Dario Amodei ซีอีโอ Anthropic ได้ตีพิมพ์บทความเมื่อวันที่ 12 กันยายน โดยเรียกร้องให้อุตสาหกรรม AI "ชะลอการพัฒนาขีดความสามารถของโมเดล AI" เพื่อให้มาตรการด้านความปลอดภัยตามทัน

นอกจากนี้ METR ยังตรวจสอบทั้งรายงานความเสี่ยงสาธารณะ Anthropic ที่ตีพิมพ์ในเดือนสิงหาคมและฉบับส่วนตัว และสรุปว่าเอกสารสาธารณะ "โดยรวมแล้วเข้าใจถึงระดับความเร่งที่เกิดขึ้นโดยรวม"

การตอบสนองของมานุษยวิทยา: ข้อตกลงบางส่วน, การตอบโต้อย่างหนัก

Sam McCandlish ผู้ร่วมก่อตั้ง Anthropic และหัวหน้าสถาปนิกของบริษัท ตอบกลับรายงานดังกล่าวในโพสต์ยาวเกี่ยวกับ X โดยเขียนว่าข้อสรุปหลายข้อของ METR ตรงกับมุมมองของเขาเอง

“AI กำลังเร่งการวิจัยของเรา แต่ก็ยากที่จะบอกว่ามากแค่ไหน” เขาเขียน โดยเสริมว่า Anthropic วางแผนที่จะเผยแพร่การวิเคราะห์ของตนเองเกี่ยวกับความก้าวหน้าของ AI ภายในบริษัทในอีกไม่กี่สัปดาห์ข้างหน้า

McCandlish ยังปกป้องการตัดสินใจของบริษัทในการแก้ไขรายงานส่วนใหญ่ ซึ่งจำกัดความแม่นยำของ METR ในการสื่อสารการประมาณการความเร่ง เขากล่าวว่าการแบ่งปัน "สิ่งที่ขับเคลื่อนการเร่งความเร็วนั้นไม่ใช่สิ่งที่ถูกต้อง" เนื่องจากข้อมูลดังกล่าวมีทั้งความละเอียดอ่อนในเชิงพาณิชย์และ "ความเสี่ยงในการแจกแจงแผนงานเพื่อให้ผู้อื่นดำเนินการได้เร็วขึ้น" ซึ่งเขาแย้งว่าจะทำให้ความเสี่ยงอย่างมากที่ METR กังวลว่าจะแย่ลง “นั่นเป็นการแลกเปลี่ยน” เขาเขียน

คำเตือนที่สำคัญ

รายงานดังกล่าวตามคำอธิบายของ METR เต็มไปด้วยคำเตือน กลุ่มกล่าวว่าการค้นพบพาดหัวข่าวอาจเป็นเรื่องที่เกินความจริง: ความเร่งที่วัดได้อาจใช้กับงานที่ระบุอย่างดีซึ่งสามารถให้คะแนนได้โดยอัตโนมัติ แทนที่จะเป็นงานปลายเปิดที่ยุ่งเหยิงกว่าที่กำหนดการวิจัยแนวชายแดน หรืออีกทางหนึ่ง Anthropic อาจจะแค่เข้าใจพื้นฐานก่อนหน้านี้เพียงเล็กน้อย ทำให้การกระโดดครั้งล่าสุดดูยิ่งใหญ่กว่าเดิม

จุดยืนของ METR ยังเป็นที่น่าสังเกตด้วยเหตุผลด้านความโปร่งใส: องค์กรไม่แสวงผลกำไรได้รับทุนผ่านการบริจาค ไม่รับค่าตอบแทนสำหรับการประเมิน และได้ดำเนินการประเมินความสามารถสำหรับ Anthropic, OpenAI และห้องปฏิบัติการอื่นๆ มานานหลายปี แม้ว่าบริษัทพันธมิตรจะให้การเข้าถึงแบบจำลองและโทเค็นที่จำเป็นในการดำเนินการวิจัยก็ตาม

ทำไมมันถึงสำคัญตอนนี้

การวิเคราะห์เกิดขึ้นหลายสัปดาห์ก่อนที่ Anthropic คาดว่าจะออกสู่สาธารณะในสิ่งที่อาจเป็นการเสนอขายต่อสาธารณะครั้งแรกครั้งใหญ่ที่สุดในประวัติศาสตร์ โดยมีการถกเถียงกันว่าโมเดล AI ที่มีความสามารถมากขึ้นอาจหลบเลี่ยงการควบคุมของมนุษย์หรือไม่ ผู้สนับสนุนด้านความปลอดภัยแย้งมานานแล้วว่าการตรวจสอบโดยอิสระ ไม่ใช่การรายงานด้วยตนเองของห้องปฏิบัติการ เป็นเพียงการวัดที่เชื่อถือได้ว่าพรมแดนเคลื่อนตัวไปเร็วแค่ไหน โดยเฉพาะอย่างยิ่งในขณะที่ฝ่ายบริหารของทรัมป์สนับสนุนให้บริษัทต่างๆ ตรวจตราตัวเอง

METR แจ้งข้อกังวลประการสุดท้าย: หากการวิจัย AI ที่ได้รับความช่วยเหลือจาก AI เริ่มทบต้น การเร่งความเร็วเองก็อาจเร่งความเร็วขึ้นได้ โดยที่ความเสี่ยงจากโมเดลขั้นสูงที่เติบโตในอัตราก้าวที่ผู้สังเกตการณ์ภายนอกไม่สามารถติดตามได้อย่างง่ายดาย รายงานของกลุ่มชี้ให้เห็นว่าอย่างน้อยสำหรับห้องปฏิบัติการชั้นนำแห่งหนึ่ง ข้อเสนอแนะที่ภาคสนามกังวลนั้นไม่ใช่เรื่องสมมุติอีกต่อไป แต่กำลังแสดงอยู่ในข้อมูลเกณฑ์มาตรฐาน

คำถามที่หน่วยงานกำกับดูแล นักลงทุน และผู้บริหารของบริษัทจะตามมาเร็วแค่ไหน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →