การยื่น IPO ที่แก้ไขเพิ่มเติมของ Anthropic กลายเป็นหัวข้อข่าวในวันจันทร์สำหรับการเงิน โดยมีรายรับประมาณ 17 พันล้านดอลลาร์ในไตรมาสสาม เทียบกับ 895.4 พันล้านดอลลาร์ในภาระผูกพันด้านการคำนวณ แต่การฝังอยู่ในปัจจัยเสี่ยงของ S-1A ที่ปรับปรุงใหม่นั้นเป็นการเปิดเผยที่อาจพิสูจน์ได้ว่าเป็นผลสืบเนื่องมากขึ้น บริษัทกล่าวว่ามันอาจจะใกล้จะเกินเกณฑ์ของตนเองสำหรับการพัฒนาตนเองแบบเรียกซ้ำ ซึ่งเป็นจุดที่ระบบ AI สามารถเร่งการพัฒนาตนเองได้

TechCrunch รายงานว่าการยื่นฟ้องดูเหมือนจะเตือนว่า Anthropic อยู่ในจุดสูงสุดของการสร้างแบบจำลองที่สามารถพัฒนาตนเองแบบเรียกซ้ำหรือที่เรียกกันทั่วไปว่า RSI ซึ่งเป็นขั้นตอนที่ AI พัฒนา AI ได้ดีจนความสามารถที่ได้รับเริ่มเพิ่มขึ้นอย่างมาก For more context on this story, see our ongoing artificial intelligence updates.

สิ่งที่การยื่นฟ้องพูดจริง

Anthropic ใช้ AI เพื่อเร่งการวิจัยและพัฒนาของตนเองอยู่แล้ว ในเอกสารที่แก้ไขเพิ่มเติม บริษัทเตือนว่าแนวปฏิบัตินี้ตัดทั้งสองวิธี: "การใช้ AI เพื่อช่วยสร้าง AI ที่มีความสามารถมากขึ้นอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยอย่างมาก โดยเฉพาะอย่างยิ่งหากมันเร่งความก้าวหน้าอย่างรวดเร็ว นี่เป็นหนึ่งในพื้นที่ที่ครอบคลุมโดยนโยบายการปรับขนาดอย่างมีความรับผิดชอบของเรา ซึ่งกำหนดแผนของเราในการติดตามและลดความเสี่ยงในขณะที่เราเข้าใกล้สิ่งที่เรียกว่า "การพัฒนาตนเองแบบเรียกซ้ำ"

ภาษาเกี่ยวกับปัจจัยเสี่ยงใหม่ก้าวไปไกลกว่าที่ Anthropic ได้ระบุไว้ก่อนหน้านี้ในเอกสารที่ยื่นต่อสาธารณะ บริษัทเปิดเผยว่าในอดีตล้มเหลวในการรับรู้ถึงการก้าวกระโดดด้านขีดความสามารถครั้งใหญ่ที่เกิดขึ้น: "ในอดีตเราไม่ได้ระบุ และอาจไม่ได้ระบุในอนาคต ซึ่งเป็นการเร่งความเร็วอย่างมีนัยสำคัญในอัตราการพัฒนาของเราจนกระทั่งหลังจากที่มันเกิดขึ้น"

จากนั้นข้อความที่ดึงดูดความสนใจของอุตสาหกรรมก็มาถึง ตามเอกสารที่ยื่น: "การประมาณการภายในของเราและความคาดหวังของเราเกี่ยวกับโมเดลในอนาคต แทนที่จะเป็นโมเดลปัจจุบันของเรา ระบุว่าเราอาจจวนจะบรรลุตามคำจำกัดความของนโยบายการปรับขนาดที่มีความรับผิดชอบของเราที่ว่า "ความก้าวหน้าที่รวดเร็วอันเนื่องมาจาก AI"

Anthropic กล่าวเสริมว่า "ไม่ได้กำหนดโมเดลปัจจุบันใดๆ ของเราว่าเกินเกณฑ์นี้" และยังคงประเมินข้อมูลพื้นฐานต่อไป กล่าวอีกนัยหนึ่ง: ไม่มีโมเดลของ Claude ในปัจจุบันที่มีคุณสมบัติเหมาะสม แต่การคาดการณ์ภายในของบริษัทแนะนำว่าโมเดลรุ่นต่อไปอาจมีคุณสมบัติ

ทำให้มนุษย์อยู่ในวง

นอกจากคำเตือนแล้ว Anthropic ยังมุ่งมั่นที่จะทำให้ผู้คนสามารถควบคุมการพัฒนาโมเดลได้ “เราไม่คาดหวังว่าจะสามารถใช้ Claude ได้อย่างปลอดภัยเพื่อออกแบบและสร้างแบบจำลองขอบเขตรุ่นต่อๆ ไปโดยอัตโนมัติโดยปราศจากการควบคุมดูแลหรือความเข้าใจของมนุษย์อย่างมีความหมาย หากและเมื่อใดจะเป็นไปได้ในทางเทคนิค” เอกสารระบุ เรากำลังพิจารณาการปรับปรุงนโยบาย Responsible Scaling เพื่อให้มนุษย์สามารถควบคุมการพัฒนาโมเดลชายแดนที่ Anthropic ได้"

บทบาทของ AI ในการวิจัยของ Anthropic กำลังเติบโตอย่างรวดเร็ว Business Insider รายงานว่าตอนนี้ AI เป็นผู้นำประมาณหนึ่งในสี่ของงาน R&D ภายในของ Anthropic เพิ่มขึ้นจาก 1 เปอร์เซ็นต์ในเดือนมีนาคม ซึ่งเป็นแผนภูมิที่คนในอุตสาหกรรมเรียกว่าเป็นหนึ่งในงานที่สำคัญที่สุดใน AI

การเปลี่ยนแปลงวาทกรรม: จาก Buzzword สู่งบดุล

เมื่อคำว่า RSI ได้รับความนิยมเมื่อต้นปีนี้ หลายคนในอุตสาหกรรมมองว่ามันเป็นคำศัพท์ หรืออย่างดีที่สุด เป็นเป้าหมายที่ถูกกำหนดไว้ไม่ดีเกินกว่าที่จะบรรลุ พิสูจน์ หรือควบคุมได้ ความสงสัยนั้นยากต่อการดำรงอยู่ในขณะนี้เมื่อแนวคิดดังกล่าวปรากฏขึ้น พร้อมคำจำกัดความภายในที่ชัดเจน ในเอกสารที่บริษัทจำเป็นต้องยื่นต่อ SEC ตามกฎหมายก่อนที่จะขายหุ้นสู่สาธารณะ

นอกจากนี้ มานุษยวิทยาไม่ได้อยู่คนเดียวในการปฏิบัติต่อการพัฒนาตนเองในฐานะสมมติฐานในการวางแผนระยะสั้น Sergey Brin ผู้ร่วมก่อตั้ง Google อธิบายว่าอุตสาหกรรมนี้กำลังมุ่งสู่ "ลู่วิ่ง RSI" ซึ่งโมเดลจะช่วยสร้างผู้สืบทอด และ John Schulman อดีตผู้ร่วมก่อตั้ง OpenAI กล่าวว่าเขาคาดหวังการพัฒนาตนเองแบบเรียกซ้ำภายในประมาณสามถึงสี่ปี สิ่งที่ทำให้การเปิดเผยข้อมูลของ Anthropic แตกต่างออกไปคือความเป็นทางการ: เกณฑ์ที่กำหนด กระบวนการวัดผลภายใน และคำแถลงต่อสาธารณะว่าบริษัทคาดว่าจะข้ามเมื่อใด

เหตุใด RSI จึงเป็น Tripwire ทั้งสองค่ายที่น่าจับตามอง

RSI มีความหมายที่แตกต่างกันขึ้นอยู่กับว่าใครเป็นผู้อธิบาย สำหรับนักวิจัยด้านความปลอดภัยของ AI สิ่งนี้แสดงถึงจุดที่ไม่สามารถหวนกลับได้ ซึ่งเป็นสถานการณ์ที่ระบบ AI พัฒนาตนเองได้เร็วกว่าที่มนุษย์จะเข้าใจ ตรวจสอบ หรือแทรกแซงได้ ซึ่งอาจหลุดลอยไปเกินกว่าการควบคุมของมนุษย์ สำหรับผู้มองโลกในแง่ดีของ AI พลวัตแบบเดียวกันคือรางวัล: ระบบที่สามารถปรับปรุงตัวเองได้อย่างน่าเชื่อถือจะนำมารวมกันเป็นผลผลิตที่ไม่ธรรมดาและการค้นพบทางวิทยาศาสตร์

การวางกรอบของมานุษยวิทยายอมรับความเป็นไปได้ทั้งสองอย่าง การเปิดเผยข้อมูลอยู่ในเอกสารที่มีผู้ชมหลักเป็นนักลงทุน และผู้คลางแคลงใจทราบว่า S-1 ทำหน้าที่เป็นทั้งการเปิดเผยข้อมูลและการตลาด การกล่าวอ้างว่าบริษัทใกล้จะสร้าง AI ที่พัฒนาตนเองแล้ว ก็สามารถอ่านเป็นข้อโต้แย้งในการประเมินมูลค่าได้อย่างง่ายดาย

อย่างไรก็ตาม มีจุดยึดที่เป็นรูปธรรมสำหรับการเรียกร้องดังกล่าว ความสามารถของ Claude ในด้านการเขียนโค้ด คณิตศาสตร์ และความปลอดภัยทางไซเบอร์ได้ก้าวหน้าไปอย่างมากจนถึงปี 2569 และนโยบาย Responsible Scaling ของ Anthropic ได้กำหนดมาตรฐาน "ความก้าวหน้าที่รวดเร็วอย่างมากอันเนื่องมาจาก AI" ซึ่งบริษัทกล่าวว่าขณะนี้อาจบรรลุผลสำเร็จในเร็วๆ นี้

การทดสอบการกำกับดูแล AI

การเปิดเผยดังกล่าวเกิดขึ้นท่ามกลางการถกเถียงเชิงนโยบายที่เข้มข้นขึ้นเกี่ยวกับการกำกับดูแล Frontier AI ตั้งแต่กรอบการทำงานของทำเนียบขาวในการตรวจสอบโมเดล Frontier ไปจนถึงการอภิปรายระหว่างประเทศเกี่ยวกับการกำกับดูแลคอมพิวเตอร์ หากห้องปฏิบัติการ AI ชั้นนำกำหนดแบบจำลองอย่างเป็นทางการว่าเป็นไปตามเกณฑ์ความก้าวหน้าแบบเร่งของตัวเอง โมเดลนั้นก็จะก่อให้เกิดภาระผูกพันภายใต้นโยบาย Responsible Scaling ของ Anthropic และจะเป็นการทดสอบในโลกแห่งความเป็นจริงครั้งแรกว่ากรอบงานอุตสาหกรรมดังกล่าวสามารถชะลอหรือกำหนดรูปแบบการแข่งขันขีดความสามารถในทางปฏิบัติได้หรือไม่

สำหรับตอนนี้ Anthropic กล่าวว่าไม่มีโมเดลใดที่ก้าวล้ำเส้นไป การยื่นฟ้องระบุว่าบริษัทคาดว่าจะข้ามเส้นดังกล่าวในเร็วๆ นี้ และขอให้นักลงทุนเข้าใจล่วงหน้าว่ามีแผนจะทำอะไรเกี่ยวกับเรื่องนี้

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →