Anthropic ได้เตือนในการยื่น IPO ของ S-1/A ที่ได้รับการแก้ไขว่าอาจ "ใกล้เข้ามาแล้ว" ตรงตามคำจำกัดความของนโยบาย Responsible Scaling Policy ของตัวเองที่ว่า "ความก้าวหน้าที่รวดเร็วอย่างมากอันเนื่องมาจาก AI" ซึ่งเป็นเกณฑ์ที่เรียกกันอย่างกว้างขวางว่าการพัฒนาตนเองแบบเรียกซ้ำหรือ RSI ซึ่งเป็นจุดที่ระบบ AI ดีพอที่จะปรับปรุง AI ซึ่งความสามารถที่เพิ่มขึ้นจะเริ่มประกอบขึ้นเอง TechCrunch รายงานการเปิดเผยเมื่อวันจันทร์ โดยเน้นภาษาที่ฝังอยู่ในปัจจัยเสี่ยงของการยื่นเอกสาร ซึ่งถือเป็นหนึ่งในข้อความที่เป็นผลสืบเนื่องมากที่สุดที่ห้องปฏิบัติการ AI ได้ทำเกี่ยวกับวิถีของตัวเอง

คำกล่าวของ Anthropic ในเอกสารระบุว่า "การประมาณการภายในและความคาดหวังของเราเกี่ยวกับโมเดลในอนาคต แทนที่จะเป็นโมเดลปัจจุบัน บ่งชี้ว่าเราอาจปฏิบัติตามคำจำกัดความของนโยบายการปรับขนาดอย่างมีความรับผิดชอบในเร็วๆ นี้ ซึ่งก็คือ "ความก้าวหน้าที่เร่งรัดอย่างรวดเร็วอันเนื่องมาจาก AI" เราไม่ได้กำหนดโมเดลปัจจุบันใดๆ ของเราว่าเกินเกณฑ์นี้ และเรายังคงประเมินข้อมูลพื้นฐานต่อไป" For more context on this story, see our ongoing AI industry coverage.

สิ่งที่การยื่นฟ้องพูดจริง

คำเตือนดังกล่าวอยู่ในปัจจัยเสี่ยงที่กว้างขึ้นเกี่ยวกับการใช้ระบบ AI ที่เพิ่มขึ้นของ Anthropic เพื่อเร่งการวิจัยและพัฒนาของตนเอง บริษัทเปิดเผยว่าไดนามิกนี้ได้สร้างขีดความสามารถแบบก้าวกระโดดที่ไม่สามารถรับรู้ได้แบบเรียลไทม์ “ด้วยเหตุนี้ เราจึงไม่สามารถระบุได้ในอดีต และในอนาคตอาจไม่สามารถระบุได้ การเร่งความเร็วอย่างมีนัยสำคัญในอัตราการพัฒนาของเรา จนกระทั่งหลังจากที่มันเกิดขึ้น” เอกสารระบุ

มานุษยวิทยากำหนดกรอบไดนามิกที่ซ่อนอยู่ว่าเป็นทั้งเครื่องยนต์และอันตราย “การใช้ AI เพื่อช่วยสร้าง AI ที่มีความสามารถมากขึ้นอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยอย่างมาก โดยเฉพาะอย่างยิ่งหากมันเร่งความก้าวหน้าอย่างรวดเร็ว” เอกสารดังกล่าวอ่าน “นี่เป็นหนึ่งในพื้นที่ที่ครอบคลุมโดยนโยบายการปรับขนาดอย่างมีความรับผิดชอบ ซึ่งกำหนดแผนของเราในการติดตามและลดความเสี่ยงในขณะที่เราเข้าใกล้สิ่งที่เรียกว่า 'การพัฒนาตนเองแบบเรียกซ้ำ'”

เงินเดิมพันเป็นเรื่องผิดปกติสำหรับเอกสาร IPO RSI เป็นแนวคิดที่แยกวิสัยทัศน์ในแง่ดีและแง่ร้ายของ AI ออกจากกันอย่างชัดเจนมากกว่าสิ่งอื่นใด สำหรับนักวิจัยด้านความปลอดภัยของ AI การพัฒนาตนเองแบบเรียกซ้ำเป็นสถานการณ์ที่ไม่สามารถหลีกเลี่ยงได้: ระบบที่ดีขึ้นในการสร้างระบบที่ดีขึ้น โดยเร่งความเร็วเกินกว่าจุดที่การควบคุมดูแลของมนุษย์ยังคงมีความหมาย สำหรับผู้เสนอ AI ถือเป็นคำมั่นสัญญา: เครื่องมือที่ปูทางไปสู่การค้นพบทางวิทยาศาสตร์และประสิทธิภาพการผลิตซึ่งไม่มีกระบวนการที่มนุษย์กำหนดทิศทางใดจะเทียบได้ การยื่นคำร้องของ Anthropic รับทราบการอ่านทั้งสองครั้ง ขณะเดียวกันก็บอกนักลงทุนได้อย่างมีประสิทธิภาพว่าบริษัทเชื่อว่าปรากฏการณ์นี้ใกล้พอที่จะรับประกันปัจจัยเสี่ยงของตนเองแล้ว

การปกป้องมานุษยวิทยามีแนวโน้มที่ดี

นอกจากคำเตือนแล้ว Anthropic ยังมุ่งมั่นที่จะทำให้มนุษย์อยู่ในวงจรของการพัฒนาโมเดลชายแดนในอนาคตอันใกล้ “เราไม่คาดหวังว่าจะสามารถใช้ Claude ได้อย่างปลอดภัยเพื่อออกแบบและสร้างแบบจำลองขอบเขตรุ่นต่อๆ ไปโดยอัตโนมัติโดยปราศจากการควบคุมดูแลหรือความเข้าใจของมนุษย์อย่างมีความหมาย หากและเมื่อใดจะเป็นไปได้ในทางเทคนิค” เอกสารระบุ บริษัทเสริมว่า "กำลังพิจารณาการปรับปรุงนโยบายการปรับขนาดอย่างมีความรับผิดชอบ เพื่อให้มนุษย์สามารถควบคุมการพัฒนาโมเดลชายแดนที่ Anthropic"

บริษัทระมัดระวังเกี่ยวกับกาลปัจจุบัน: ไม่มีการกำหนดโมเดล Anthropic ในปัจจุบันว่าเกินเกณฑ์ RSI แต่วลีที่ว่า "อาจใกล้เข้ามาแล้ว" ซึ่งใช้กับโมเดลในอนาคตมากกว่ารุ่นที่จัดส่ง เป็นการยอมรับอย่างชัดเจนว่าห้องปฏิบัติการอ่านค่าประมาณการภายในของตนเองและการฝึกอบรมที่กำลังดำเนินการอยู่อย่างไร

การเปิดเผยหรือการตลาด?

ผู้คลางแคลงทราบอย่างรวดเร็วว่า S-1 ให้บริการผู้ชมสองคนพร้อมกัน: เป็นการเปิดเผยทางกฎหมายและการเสนอขาย การอ้างว่าบริษัทอยู่บนจุดสูงสุดของเทคโนโลยีที่ทรงพลังพอที่จะสร้างตัวเองได้ อาจอ่านได้ว่าเป็นคำเตือนหรือข้อโต้แย้งในการประเมินมูลค่า หรือทั้งสองอย่าง ไม่มีวิธีภายนอกในการตรวจสอบว่าการประมาณการภายในของ Anthropic สมเหตุสมผลสำหรับคำว่า "ใกล้เข้ามาแล้ว" หรือไม่ และบริษัทไม่ได้กำหนดให้แบบจำลองปัจจุบันใดๆ เป็นการข้ามเส้น ซึ่งทำให้ข้อกล่าวอ้างนั้นขึ้นอยู่กับการวัดผลการวิจัยของห้องปฏิบัติการเอง

ถึงกระนั้น แนวโน้มพื้นฐานที่เอกสารดังกล่าวอธิบายนั้นสามารถสังเกตได้จากภายนอก ความสามารถของ Claude ในด้านการเขียนโค้ด คณิตศาสตร์ และความปลอดภัยทางไซเบอร์ก้าวหน้าไปอย่างรวดเร็วจนถึงปี 2026 และ Anthropic ก็มีการเปิดเผยต่อสาธารณะมากขึ้นเกี่ยวกับการใช้แบบจำลองของตัวเองเพื่อทำการวิจัย ดำเนินการทดลองการจัดตำแหน่ง และช่วยเหลือในงานพัฒนา สิ่งใหม่ในการยื่นฟ้องคือบริษัทได้จัดทำเอกสารการเปิดเผยข้อมูลที่มีผลผูกพันตามกฎหมายอย่างเป็นทางการว่าในไม่ช้าวงจรตอบรับนี้อาจลงทะเบียนในระดับอย่างเป็นทางการของตัวเองสำหรับการเร่งความเร็วที่เป็นอันตราย

เหตุใดจึงมีความสำคัญมากกว่ามานุษยวิทยา

การเปิดเผยข้อมูลเกิดขึ้นในช่วงเวลาที่คำถามเกี่ยวกับการพัฒนา AI ได้เปลี่ยนจากการประชุมไปสู่วาระนโยบาย หากห้องปฏิบัติการที่เน้นความปลอดภัยชั้นนำระบุในเอกสารของ SEC ว่าห้องปฏิบัติการอาจก้าวข้ามเกณฑ์ของตัวเองสำหรับการเร่งความเร็วที่ขับเคลื่อนด้วย AI ขณะเดียวกันก็ยอมรับว่าพลาดการเร่งความเร็วดังกล่าวไปจนกระทั่งหลังจากที่เกิดขึ้น — หน่วยงานกำกับดูแล นักลงทุน และห้องปฏิบัติการคู่แข่งมีเอกสารที่จะชี้ให้เห็นทั้งสองด้านของการอภิปราย

สำหรับ Anthropic ซึ่งกำลังเตรียมการเสนอขายหุ้น IPO ที่ได้รับการจับตามองอย่างใกล้ชิดที่สุดแห่งหนึ่งในภาคส่วนนี้ การยื่นฟ้องถือเป็นการดำเนินการสมดุลที่ละเอียดอ่อน: คำเตือนเพียงพอที่จะพิสูจน์ว่าบริษัทให้ความสำคัญกับข้อผูกพันด้านความปลอดภัยอย่างจริงจัง และมีความมั่นใจเพียงพอในการควบคุมเพื่อให้ขายหุ้นกลับหัวต่อไป การอัปเดตนโยบายการปรับขนาดอย่างมีความรับผิดชอบของบริษัท หากเกิดขึ้นจริง จะแสดงให้เห็นว่าด้านใดของความสมดุลที่แนวทางปฏิบัติจริงของห้องปฏิบัติการเกิดขึ้น

ติดตามความครอบคลุมการวิจัย AI อย่างต่อเนื่องของเราและการรายงานความปลอดภัยของ AI สำหรับการพัฒนาเกี่ยวกับการพัฒนาตนเองแบบเรียกซ้ำและการกำกับดูแลแบบจำลองขอบเขต

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →