Hồ sơ IPO sửa đổi của Anthropic đã gây chú ý vào thứ Hai về tình hình tài chính của nó - doanh thu quý 3 khoảng 17 tỷ USD so với 895,4 tỷ USD cam kết điện toán. Nhưng ẩn trong các yếu tố rủi ro của S-1A sửa đổi là một tiết lộ có thể gây ra nhiều hậu quả hơn: công ty cho biết họ có thể sắp vượt qua ngưỡng của chính mình để tự cải tiến đệ quy, điểm mà các hệ thống AI có khả năng tăng tốc sự phát triển của chính chúng.

TechCrunch báo cáo rằng việc nộp đơn dường như cảnh báo rằng Anthropic đang trên đà tạo ra một mô hình có khả năng tự cải thiện đệ quy, thường được gọi là RSI - giai đoạn mà AI trở nên rất giỏi trong việc cải thiện AI đến mức khả năng đạt được bắt đầu tăng lên đáng kể. For more context on this story, see our ongoing breaking AI news.

Nội dung hồ sơ thực sự nói lên điều gì

Anthropic đã sử dụng AI để tăng tốc nghiên cứu và phát triển của riêng mình. Trong hồ sơ sửa đổi, công ty cảnh báo rằng cách làm này cắt giảm cả hai cách: "Sử dụng AI để giúp xây dựng AI có năng lực hơn cũng có thể gây ra rủi ro an toàn đáng kể, đặc biệt nếu nó đẩy nhanh tốc độ tiến bộ. Đây là một trong những lĩnh vực được đề cập trong Chính sách mở rộng có trách nhiệm của chúng tôi, trong đó đặt ra các kế hoạch của chúng tôi để giám sát và giảm thiểu rủi ro khi chúng tôi tiếp cận cái được gọi là 'tự cải thiện đệ quy'."

Ngôn ngữ về yếu tố rủi ro mới đi xa hơn những gì Anthropic đã nêu trước đây trong hồ sơ công khai của mình. Công ty tiết lộ rằng trước đây họ đã không nhận ra những bước nhảy vọt lớn về năng lực khi chúng xảy ra: "trước đây chúng tôi chưa xác định được và trong tương lai có thể không xác định được sự tăng tốc đáng kể trong tốc độ phát triển của chúng tôi cho đến sau khi nó xảy ra."

Sau đó là tuyên bố thu hút sự chú ý của ngành. Theo hồ sơ: "Các ước tính nội bộ và kỳ vọng của chúng tôi về các mô hình trong tương lai, thay vì các mô hình hiện tại, cho thấy rằng chúng tôi có thể sắp đáp ứng định nghĩa của Chính sách mở rộng có trách nhiệm về 'tiến bộ tăng tốc đáng kể nhờ vào AI'."

Anthropic cho biết thêm rằng họ “chưa chỉ định bất kỳ mô hình hiện tại nào của chúng tôi vượt quá ngưỡng này” và tiếp tục đánh giá dữ liệu cơ bản. Nói cách khác: không có mẫu Claude hiện tại nào đủ tiêu chuẩn, nhưng các dự đoán nội bộ của công ty cho thấy thế hệ tiếp theo của nó có thể.

Giữ con người trong vòng lặp

Bên cạnh cảnh báo, Anthropic cam kết để mọi người nắm quyền kiểm soát việc phát triển mô hình. “Chúng tôi không lường trước được khả năng sử dụng Claude một cách an toàn để thiết kế và xây dựng các thế hệ mô hình biên giới hoàn toàn tự động mà không có sự giám sát hoặc hiểu biết của con người, nếu và khi điều đó trở nên khả thi về mặt kỹ thuật”, hồ sơ nêu rõ. "Theo đó, chúng tôi đang xem xét cập nhật Chính sách mở rộng có trách nhiệm của mình để giúp con người kiểm soát việc phát triển mô hình biên giới tại Anthropic."

Quy mô vai trò của AI trong nghiên cứu của Anthropic đang tăng lên nhanh chóng. Business Insider báo cáo rằng AI hiện dẫn đầu khoảng 1/4 công việc R&D nội bộ của Anthropic, tăng từ 1% trong tháng 3 – một biểu đồ mà những người trong ngành gọi là một trong những biểu đồ quan trọng nhất về AI.

Sự thay đổi diễn ngôn: Từ thông dụng đến Bảng cân đối kế toán

Khi thuật ngữ RSI trở nên phổ biến vào đầu năm nay, nhiều người trong ngành đã coi nó như một từ thông dụng - hoặc tốt nhất là một mục tiêu được xác định quá kém để đạt được, chứng minh hoặc điều chỉnh. Sự hoài nghi đó càng khó duy trì hơn khi khái niệm này xuất hiện, với định nghĩa nội bộ chính xác, trong một tài liệu mà một công ty bắt buộc phải nộp cho SEC về mặt pháp lý trước khi bán cổ phiếu ra công chúng.

Anthropic cũng không đơn độc coi việc tự hoàn thiện bản thân là một giả định trong kế hoạch ngắn hạn. Đồng sáng lập Google, Sergey Brin đã mô tả ngành công nghiệp này đang chạy đua tới một "máy chạy bộ RSI" trong đó các mô hình giúp xây dựng những người kế nhiệm của họ và cựu đồng sáng lập OpenAI John Schulman cho biết ông kỳ vọng vào sự tự cải thiện đệ quy trong vòng khoảng ba đến bốn năm. Điều làm nên sự khác biệt của việc công bố thông tin của Anthropic là tính hình thức của nó: một ngưỡng xác định, một quy trình đo lường nội bộ và một tuyên bố công khai về thời điểm công ty dự kiến ​​sẽ vượt qua ngưỡng đó.

Tại sao RSI là Tripwire mà cả hai phe đều theo dõi

RSI mang những ý nghĩa khác nhau tùy thuộc vào người mô tả nó. Đối với các nhà nghiên cứu về an toàn AI, nó đại diện cho điểm không thể quay lại - kịch bản trong đó các hệ thống AI tự cải thiện nhanh hơn mức con người có thể hiểu, xác nhận hoặc can thiệp, có khả năng trượt khỏi tầm kiểm soát của con người. Đối với những người lạc quan về AI, động lực tương tự chính là giải thưởng: các hệ thống tự cải thiện một cách đáng tin cậy sẽ tạo ra năng suất phi thường và khám phá khoa học.

Cách đóng khung của Anthropic thừa nhận cả hai khả năng. Tiết lộ này nằm trong một tài liệu mà đối tượng chính là các nhà đầu tư và những người hoài nghi lưu ý rằng S-1 hoạt động vừa tiết lộ vừa tiếp thị - một tuyên bố rằng công ty sắp xây dựng một AI tự cải tiến có thể dễ dàng được coi là một lập luận cho việc định giá nó.

Tuy nhiên, có một cái neo cụ thể cho tuyên bố này. Khả năng mã hóa, toán học và an ninh mạng của Claude đã tiến bộ đáng kể cho đến năm 2026 và Chính sách mở rộng có trách nhiệm của Anthropic xác định tiêu chuẩn "tiến bộ tăng tốc đáng kể nhờ AI" mà công ty hiện cho biết họ có thể sắp đáp ứng.

Thử nghiệm quản trị AI

Tiết lộ này diễn ra trong bối cảnh các cuộc tranh luận chính sách ngày càng gay gắt về việc giám sát AI biên giới, từ khuôn khổ xem xét các mô hình biên giới của Nhà Trắng cho đến các cuộc thảo luận quốc tế về quản trị điện toán. Nếu một phòng thí nghiệm AI hàng đầu chính thức chỉ định một mô hình đáp ứng ngưỡng tiến độ tăng tốc của chính nó, thì mô hình đó sẽ kích hoạt các nghĩa vụ theo Chính sách mở rộng có trách nhiệm của Anthropic - và sẽ là thử nghiệm thực tế đầu tiên về việc liệu các khuôn khổ ngành đó có thể làm chậm hoặc định hình cuộc đua năng lực trong thực tế hay không.

Hiện tại, Anthropic cho biết chưa có mô hình nào vượt quá giới hạn. Hồ sơ cho thấy công ty hy vọng ranh giới đó sẽ sớm được vượt qua - và đang yêu cầu các nhà đầu tư hiểu trước những gì họ dự định làm với nó.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →