Anthropic đã cảnh báo trong hồ sơ IPO S-1/A sửa đổi rằng họ có thể “sắp” đáp ứng định nghĩa của Chính sách mở rộng có trách nhiệm của mình về “tiến bộ được tăng tốc đáng kể nhờ AI” – ngưỡng được gọi rộng rãi là tự cải thiện đệ quy, hay RSI, điểm mà tại đó các hệ thống AI trở nên đủ tốt trong việc cải thiện AI mà khả năng đạt được bắt đầu tự tăng lên. TechCrunch đã báo cáo tiết lộ vào thứ Hai, nêu bật ngôn ngữ ẩn chứa trong các yếu tố rủi ro của hồ sơ, tương đương với một trong những tuyên bố có hậu quả nhất mà bất kỳ phòng thí nghiệm AI nào đã đưa ra về quỹ đạo của chính nó.
Hồ sơ nêu rõ, theo cách nói riêng của Anthropic: “các ước tính nội bộ và kỳ vọng của chúng tôi về các mô hình trong tương lai, thay vì các mô hình hiện tại, cho thấy rằng chúng tôi có thể sắp đáp ứng định nghĩa của Chính sách mở rộng có trách nhiệm về ‘tiến bộ tăng tốc đáng kể nhờ vào AI’. Chúng tôi chưa chỉ định bất kỳ mô hình hiện tại nào của chúng tôi vượt quá ngưỡng này và chúng tôi tiếp tục đánh giá dữ liệu cơ bản." For more context on this story, see our ongoing more AI stories.
Nội dung hồ sơ thực sự nói lên điều gì
Cảnh báo nằm trong một yếu tố rủi ro rộng hơn về việc Anthropic ngày càng sử dụng hệ thống AI để tăng tốc hoạt động nghiên cứu và phát triển của chính mình. Công ty tiết lộ rằng động lực này đã tạo ra những bước nhảy vọt về năng lực mà họ không thể nhận ra trong thời gian thực. “Kết quả là, trong quá khứ, chúng tôi chưa xác định được và trong tương lai có thể không xác định được sự tăng tốc đáng kể trong tốc độ phát triển của chúng tôi cho đến sau khi nó xảy ra”, hồ sơ nêu rõ.
Anthropic đóng khung động lực cơ bản vừa là động cơ vừa là mối nguy hiểm. “Việc sử dụng AI để giúp xây dựng AI có khả năng cao hơn cũng có thể gây ra rủi ro an toàn đáng kể, đặc biệt nếu nó đẩy nhanh tốc độ tiến bộ một cách đáng kể”, hồ sơ viết. "Đây là một trong những lĩnh vực nằm trong Chính sách mở rộng có trách nhiệm của chúng tôi, trong đó đặt ra các kế hoạch giám sát và giảm thiểu rủi ro khi chúng tôi tiếp cận cái được gọi là 'tự cải thiện đệ quy'."
Số tiền đặt cược là bất thường đối với một tài liệu IPO. RSI là khái niệm phân biệt rõ ràng tầm nhìn lạc quan và bi quan về AI hơn hầu hết các quan điểm khác. Đối với các nhà nghiên cứu về an toàn AI, khả năng tự cải thiện đệ quy là một kịch bản dễ thực hiện: một hệ thống trở nên tốt hơn trong việc xây dựng các hệ thống tốt hơn, tăng tốc vượt xa mức mà sự giám sát của con người vẫn còn có ý nghĩa. Đối với những người đề xuất AI, đó là lời hứa: một công cụ khởi động theo cách của nó để khám phá khoa học và tăng năng suất mà không quy trình do con người định hướng nào có thể sánh được. Hồ sơ của Anthropic thừa nhận cả hai kết quả, đồng thời nói với các nhà đầu tư một cách hiệu quả rằng công ty tin rằng hiện tượng này đủ gần để đảm bảo mức độ rủi ro của riêng họ.
Các biện pháp bảo vệ Anthropic đầy hứa hẹn
Bên cạnh cảnh báo, Anthropic cam kết duy trì con người trong vòng phát triển mô hình biên giới trong tương lai gần. “Chúng tôi không lường trước được khả năng sử dụng Claude một cách an toàn để thiết kế và xây dựng các thế hệ mô hình biên giới hoàn toàn tự động mà không có sự giám sát hoặc hiểu biết của con người, nếu và khi điều đó trở nên khả thi về mặt kỹ thuật”, hồ sơ nêu rõ. Công ty nói thêm rằng họ đang "xem xét cập nhật Chính sách mở rộng có trách nhiệm của chúng tôi để giúp con người kiểm soát việc phát triển mô hình biên giới tại Anthropic."
Công ty đã thận trọng với thời điểm hiện tại: không có mô hình Anthropic hiện tại nào được chỉ định là vượt quá ngưỡng RSI. Nhưng cụm từ "có thể sắp gặp" - áp dụng cho các mẫu trong tương lai thay vì các mẫu đã xuất xưởng - là một sự thừa nhận đáng chú ý về cách phòng thí nghiệm đọc các ước tính nội bộ của chính họ và các hoạt động đào tạo hiện đang được tiến hành.
Tiết lộ hay tiếp thị?
Những người hoài nghi đã nhanh chóng lưu ý rằng S-1 phục vụ hai đối tượng cùng một lúc: đó là tiết lộ pháp lý và quảng cáo chiêu hàng. Tuyên bố rằng một công ty đang trên đà phát triển một công nghệ đủ mạnh để tự xây dựng có thể được coi là một cảnh báo hoặc một lập luận định giá - hoặc cả hai. Không có cách nào bên ngoài để kiểm tra xem các ước tính nội bộ của Anthropic có biện minh cho từ "sắp xảy ra" hay không và công ty chưa chỉ định bất kỳ mô hình hiện tại nào là vượt quá giới hạn, điều này khiến tuyên bố dựa trên các phép đo riêng của phòng thí nghiệm đối với quy trình nghiên cứu của họ.
Tuy nhiên, xu hướng cơ bản mà hồ sơ mô tả có thể được quan sát từ bên ngoài. Khả năng mã hóa, toán học và an ninh mạng của Claude đã tiến bộ đáng kể cho đến năm 2026 và Anthropic ngày càng công khai hơn về việc sử dụng các mô hình của riêng mình để nghiên cứu, chạy thử nghiệm căn chỉnh và hỗ trợ công việc phát triển. Điểm mới trong hồ sơ là công ty đang chính thức hóa, trong một tài liệu tiết lộ có tính ràng buộc về mặt pháp lý, rằng vòng phản hồi này có thể sớm được ghi nhận trên quy mô chính thức của riêng mình về khả năng tăng tốc nguy hiểm.
Tại sao nó quan trọng hơn nhân loại
Tiết lộ này diễn ra vào thời điểm câu hỏi về nhịp độ phát triển AI đã chuyển từ các hội nghị sang các chương trình nghị sự về chính sách. Nếu phòng thí nghiệm tập trung vào an toàn hàng đầu cho biết trong hồ sơ của SEC rằng họ có thể sắp vượt qua ngưỡng tăng tốc do AI điều khiển – đồng thời thừa nhận rằng họ đã bỏ lỡ những lần tăng tốc như vậy cho đến sau khi chúng xảy ra – thì các cơ quan quản lý, nhà đầu tư và phòng thí nghiệm đối thủ hiện đã có tài liệu để chỉ ra cả hai phía của cuộc tranh luận.
Đối với Anthropic, công ty đang chuẩn bị một trong những đợt IPO được theo dõi chặt chẽ nhất trong lĩnh vực này, việc nộp đơn thực hiện một hành động cân bằng tinh vi: đủ cảnh báo để chứng minh rằng công ty thực hiện nghiêm túc các cam kết an toàn của mình và đủ tin tưởng vào khả năng kiểm soát của mình để tiếp tục bán được lợi nhuận. Các bản cập nhật Chính sách mở rộng có trách nhiệm của công ty, nếu chúng được thực hiện, sẽ cho thấy khía cạnh nào của sự cân bằng đó mà các hoạt động thực tế của phòng thí nghiệm áp dụng.
Theo dõi phạm vi nghiên cứu AI liên tục của chúng tôi và báo cáo an toàn AI để biết những phát triển về khả năng tự cải thiện đệ quy và quản trị mô hình biên giới.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
