Theo một phân tích độc lập được công bố hôm thứ Năm bởi nhóm đánh giá phi lợi nhuận METR, Anthropic đang cải thiện khả năng của các mô hình AI của mình nhanh gấp đôi so với một năm trước và phần lớn sự tăng tốc đó dường như đến từ các hệ thống AI giúp xây dựng những người kế nhiệm của riêng chúng.
Những phát hiện được hãng tin AP đưa tin có sức nặng bất thường vì chúng dựa trên những gì METR mô tả là “sự truy cập chưa từng có” vào dữ liệu nội bộ của Anthropic. Các nhà nghiên cứu từ nhóm có trụ sở tại Berkeley, California – có tên đầy đủ là Nghiên cứu mối đe dọa và đánh giá mô hình – đã được mời vào công ty trong khoảng 11 tuần, từ giữa tháng 8 đến cuối tháng 10, nơi họ phân tích dữ liệu nghiên cứu nội bộ và phỏng vấn nhân viên.
Để độc giả theo dõi cuộc tranh luận về an toàn xung quanh các phòng thí nghiệm biên giới, hãy xem tin tức tin tức AI mới nhất của chúng tôi.
Phát hiện cốt lõi: Tiến độ đang tăng lên
Ước tính trọng tâm của METR là Anthropic đang cải thiện hiệu suất của các mô hình của mình đối với các nhiệm vụ được xác định rõ ràng nhanh gấp đôi so với một năm trước đó. Báo cáo nêu rõ: "Anthropic dường như đã đạt được nhiều tiến bộ về điểm chuẩn trong năm qua như họ đã đạt được trong khoảng thời gian từ tháng 10 năm 2023 đến tháng 10 năm 2025."
Hậu quả hơn nữa là những gì METR tin rằng đang thúc đẩy sự tăng tốc. Các nhà nghiên cứu cho biết họ có thể "tự tin" loại trừ nguyên nhân là do sự tăng trưởng về sức mạnh tính toán - theo truyền thống, biến số có mối liên hệ chặt chẽ nhất với hiệu suất mô hình. Kết luận của họ: sự cải tiến phần lớn phụ thuộc vào việc sử dụng chính AI để thực hiện nghiên cứu về AI.
Anthropic đã thừa nhận rằng chatbot Claude ngày càng giúp công ty phát triển các phiên bản mới hơn, cao cấp hơn của chính nó. Báo cáo của METR không tìm thấy "nút thắt cổ chai" nào - chẳng hạn như các hạn chế về tính toán hoặc dữ liệu - cản trở quá trình đó và lưu ý rằng mặc dù AI vẫn chưa có "những đóng góp đáng kể và hoàn toàn tự động" cho các phần quan trọng nhất của đào tạo mô hình, các nhà nghiên cứu của Anthropic đã mô tả những "dấu hiệu sự sống" quan trọng, ngụ ý rằng điều đó có thể sớm thay đổi.
Những phát hiện đã diễn ra trong cuộc tranh luận giữa thời kỳ suy thoái
Đây là thời điểm khó xử đối với một công ty có giám đốc điều hành đang vận động hành lang để kiềm chế. Trong giai đoạn đánh giá của METR, Giám đốc điều hành Anthropic Dario Amodei đã xuất bản một bài luận ngày 12 tháng 9 kêu gọi ngành AI “làm chậm tốc độ chúng tôi cải thiện khả năng của các mô hình AI” để các biện pháp an toàn có thể bắt kịp.
METR cũng đã xem xét cả báo cáo rủi ro công khai mà Anthropic xuất bản vào tháng 8 và phiên bản riêng tư, đồng thời kết luận rằng tài liệu công khai "nói chung đã đánh giá thấp mức độ tăng tốc đang diễn ra".
Phản ứng của Anthropic: Thỏa thuận một phần, Xử lý nặng nề
Sam McCandlish, người đồng sáng lập Anthropic và kiến trúc sư trưởng của công ty, đã trả lời báo cáo hôm thứ Năm trong một bài đăng dài trên X, viết rằng nhiều kết luận của METR phù hợp với quan điểm của chính ông.
Ông viết: “AI đang tăng tốc nghiên cứu của chúng tôi, nhưng thật khó để nói chính xác là bao nhiêu”, đồng thời cho biết thêm rằng Anthropic có kế hoạch đưa ra phân tích riêng về tốc độ phát triển AI trong công ty trong những tuần tới.
McCandlish cũng bảo vệ quyết định của công ty trong việc biên tập lại phần lớn báo cáo, điều này đã hạn chế mức độ chính xác mà METR có thể truyền đạt các ước tính tăng tốc của mình. Ông cho biết việc chia sẻ "chính xác điều gì đang thúc đẩy việc tăng tốc không phải là điều nên làm", bởi vì thông tin này vừa nhạy cảm về mặt thương mại vừa "có nguy cơ đưa ra lộ trình cho những người khác đi nhanh hơn" - điều mà ông lập luận sẽ khiến những rủi ro mà METR lo lắng trở nên tồi tệ hơn. “Đó là một sự đánh đổi,” anh viết.
Lưu ý quan trọng
Báo cáo, theo mô tả của chính METR, có kèm theo nhiều cảnh báo. Nhóm cho biết phát hiện tiêu đề của họ có thể đã phóng đại vấn đề: khả năng tăng tốc đo được chỉ có thể áp dụng cho các nhiệm vụ được xác định rõ ràng và có thể được chấm điểm tự động, chứ không phải là công việc lộn xộn, có kết thúc mở xác định nghiên cứu biên giới. Ngoài ra, Anthropic có thể chỉ đơn giản là đã đánh giá thấp đường cơ sở trước đó của mình, khiến cho bước nhảy vọt mới nhất trông có vẻ lớn hơn thực tế.
Quan điểm của METR cũng đáng chú ý vì lý do minh bạch: tổ chức phi lợi nhuận này được tài trợ thông qua quyên góp, không nhận thù lao cho các đánh giá của mình và đã tiến hành đánh giá năng lực cho Anthropic, OpenAI và các phòng thí nghiệm khác trong nhiều năm - mặc dù các công ty đối tác cung cấp quyền truy cập mô hình và mã thông báo cần thiết để chạy nghiên cứu của họ.
Tại sao nó lại quan trọng vào lúc này
Phân tích diễn ra vài tuần trước khi Anthropic dự kiến ra mắt công chúng trong đợt phát hành cổ phiếu lần đầu lớn nhất trong lịch sử, với cuộc tranh luận xoay quanh việc liệu các mô hình AI ngày càng có khả năng có thể thoát khỏi sự kiểm soát của con người hay không. Những người ủng hộ an toàn từ lâu đã lập luận rằng việc xác minh độc lập - không phải phòng thí nghiệm tự báo cáo - là thước đo đáng tin cậy duy nhất về tốc độ di chuyển của biên giới, đặc biệt khi chính quyền Trump đã khuyến khích các công ty tự cảnh sát.
METR đã đánh dấu một mối lo ngại cuối cùng: nếu nghiên cứu AI được hỗ trợ bởi AI bắt đầu kết hợp, thì bản thân quá trình tăng tốc có thể tăng tốc, với những rủi ro từ các mô hình tiên tiến đang phát triển với tốc độ mà các nhà quan sát bên ngoài không thể dễ dàng theo dõi. Báo cáo của nhóm gợi ý rằng đối với ít nhất một phòng thí nghiệm hàng đầu, vòng phản hồi mà lĩnh vực này lo lắng không còn là giả thuyết nữa - nó đang hiển thị trong dữ liệu điểm chuẩn.
Các nhà quản lý, nhà đầu tư và giám đốc điều hành của chính công ty giờ đây sẽ theo dõi phần còn lại của ngành nhanh đến mức nào.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
