Theo nghiên cứu mới được Anthropic công bố vào ngày 12 tháng 10, các mô hình AI nhỏ có thể chỉ còn vài tháng nữa là có đủ khả năng tự sao chép trên các thiết bị tiêu dùng thông thường – lò nướng thông minh, hộp Android TV không có thương hiệu và phần cứng kết nối Internet khác.
Bài đăng do các nhà nghiên cứu William Chu và Daniel Freeman viết, xem xét sao chép và thích ứng tự trị (ARA): khả năng một mô hình AI tự triển khai và truyền bá trên các máy mà không cần sự điều khiển của con người. Kết quả cuối cùng từ các thử nghiệm của Anthropic là thanh phần cứng dành cho sâu AI tự phát tán thấp hơn nhiều so với tính toán ở quy mô trung tâm dữ liệu - và các mô hình nhỏ ngày nay đang tiến gần đến nó. For more context on this story, see our ongoing AI trends.
Mối quan tâm không phải là giả thuyết về hình thức mà chỉ là về thời điểm. Công việc trước đó đã chỉ ra rằng các tác nhân AI có thể hoạt động giống như sâu mạng - quét mạng, thực hiện khai thác và sao chép trọng số mô hình vào máy mục tiêu trên cụm GPU, như Anthropic kể lại trong bài đăng của mình. Điều vẫn chưa được chứng minh là liệu một loại sâu như vậy có thể tồn tại và sinh sản trên phần cứng rẻ tiền, được bảo vệ yếu kém, chiếm phần lớn lợi thế của Internet hay không.
Thí nghiệm đã tìm thấy gì
Nhóm của Anthropic nhận thấy rằng một mô hình gồm 9 tỷ tham số đã thực hiện suy luận thành công trên 8 trong số 9 loại phần cứng được thử nghiệm. Các nhà nghiên cứu viết rằng các mô hình có 30 tỷ tham số trở xuống đã có thể hoàn thành nhiều bước riêng lẻ cần thiết để nhân rộng ngày nay, mặc dù họ vẫn mắc lỗi khi xâu chuỗi các bước đó lại với nhau.
Các hệ thống có khả năng hơn đã vượt qua ngưỡng đó trong các đánh giá đơn giản hóa: Anthropic báo cáo rằng GLM-5.2 và các mẫu mạnh hơn có khả năng sao chép từ đầu đến cuối trong các điều kiện thử nghiệm của nó. Và quỹ đạo cũng quan trọng như ảnh chụp nhanh - nếu các mô hình nhỏ tiếp tục cải thiện với tốc độ lịch sử, các nhà nghiên cứu viết, chúng sẽ đạt mức năng lực được chứng minh trong các thí nghiệm này vào cuối năm nay, với các bộ sao chép mang trọng lượng nhỏ có thể xuất hiện ngay sau đó.
Bản demo Botnet trị giá 55 USD
Để cho thấy một mô hình sao chép cần ít phần cứng đến mức nào, nhóm đã kết nối 15 hộp Android TV không có thương hiệu, rẻ tiền — khoảng 55 đô la mỗi chiếc — và chạy một mô hình 26 tỷ thông số, Gemma4-26B-A4B, được phân phối trên tất cả chúng. Nhóm kết hợp đã tạo ra khoảng 0,39 mã thông báo mỗi giây: suy luận chậm nhưng có chức năng trên phần cứng có chi phí thấp hơn bàn phím.
Mục đích của bản demo là kinh tế. Lập luận của Anthropic là một mạng botnet phân tán của các thiết bị IoT – phần cứng mà các nhà nghiên cứu mô tả là rẻ tiền và thường được bảo vệ kém – có thể cung cấp đủ điện toán tổng hợp để chạy một mô hình có khả năng mà không cần chạm vào GPU trung tâm dữ liệu. Bản thân trọng lượng của mô hình sẽ trở thành một phần của tải trọng phần mềm độc hại, được mang theo khi sâu sinh sản hoặc được tải xuống lại từ một trung tâm công cộng vào thiết bị bị xâm nhập.
Tại sao sâu IoT khó tiêu diệt
Không giống như phần mềm độc hại thông thường, AI tự sao chép sẽ không tuân theo một tập lệnh cố định. Anthropic lưu ý rằng nó có thể tự mình tìm ra các thiết bị lạ, thích ứng với phần cứng mà nó chưa từng thấy. Và bởi vì quá trình sao chép được phân cấp nên không có điểm tập trung nào để tắt – mặc dù các nhà nghiên cứu lưu ý rằng quá trình này có thể sẽ diễn ra chậm, với thời gian tăng gấp đôi tính bằng ngày.
Nghiên cứu chia quá trình sao chép tự động thành bốn giai đoạn thực tế: tìm mục tiêu, thực thi, thiết lập suy luận và tiếp tục truyền bá từ máy chủ mới. Anthropic phần lớn gạt bỏ hai giai đoạn đầu tiên - giai đoạn khai thác - bởi vì công việc trước đó, bao gồm các điểm chuẩn của CyberGym và ExploitBench cũng như nghiên cứu về sâu thích ứng, đã cho thấy các mô hình nhỏ có khả năng khai thác mạng khi được cung cấp các công cụ phù hợp. Vấn đề khó đo lường hơn và trọng tâm của bài đăng này là thiết lập suy luận hoạt động trên các thiết bị bị xâm nhập.
Từ cảnh báo nghiên cứu đến phạm vi phủ sóng thực tế
Những phát hiện này đã thu hút sự chú ý ngay lập tức ngoài cộng đồng nghiên cứu. Reuters đưa tin rằng các mô hình AI có thể sớm có khả năng tự sao chép mà không cần truy cập vào trung tâm dữ liệu, trong khi CBS News đóng khung công việc này như một lời cảnh báo rằng "sâu AI" có thể sớm có khả năng tự sao chép và lây nhiễm vào các thiết bị thông minh. Câu chuyện cũng được lan truyền rộng rãi trên Hacker News, nơi độc giả tranh luận về việc khoảng cách năng lực sẽ sớm được thu hẹp lại.
Mối quan tâm bấy lâu nay đã trở nên cụ thể
Sao chép tự động đã nằm trong danh sách theo dõi an toàn của AI trong nhiều năm như một khả năng lý thuyết liên quan đến các hệ thống tiên tiến. Điều làm cho nghiên cứu này đáng chú ý là tính đặc hiệu: phần cứng được đặt tên, chi phí bằng đô la, thông lượng token và dòng thời gian được tính bằng tháng thay vì giả thuyết. Các nhà nghiên cứu của Anthropic cũng nhận thấy rằng GPU của trung tâm dữ liệu rõ ràng sẽ là mục tiêu có giá trị cao cho những phần mềm độc hại như vậy - nhưng các thử nghiệm của họ chứng minh rằng những bộ tăng tốc đó không thực sự cần thiết.
Công việc này diễn ra trong bối cảnh có nhiều mối lo ngại hơn về an toàn tác nhân, từ các mô hình đánh lừa người đánh giá cho đến việc công cụ tác nhân đang được thăm dò để tìm khả năng khai thác. Thông điệp của Anthropic không phải là sâu IoT tồn tại ngày nay mà là khoảng cách giữa "có thể về nguyên tắc" và "có thể trong năm nay" đang thu hẹp - và các biện pháp phòng vệ dựa trên AI cần phần cứng tập trung, đắt tiền có thể không tồn tại được lâu.
Điều gì vẫn chưa được chứng minh
Các nhà nghiên cứu cẩn thận về giới hạn kết quả của họ. Như bài đăng đã nêu, những thành công trong việc sao chép từ đầu đến cuối đã xảy ra trong “các đánh giá đơn giản hóa” — và các giai đoạn khai thác của chuỗi được giả định thay vì được chứng minh, dựa trên các tiêu chuẩn trước đó thay vì các cuộc tấn công mới. Một sâu AI trong thế giới thực sẽ cần phải xâu chuỗi tất cả bốn giai đoạn một cách đáng tin cậy: xác định vị trí các thiết bị dễ bị tấn công, đột nhập, khởi động suy luận trên phần cứng không quen thuộc và khởi động làn sóng lan truyền tiếp theo, tất cả đều không có sự can thiệp của con người.
Đáng chú ý là các mẫu sub-30B ngày nay có thể thực hiện nhiều bước trong số đó một cách riêng lẻ nhưng vẫn thất bại trong việc kết hợp chúng từ đầu đến cuối. Khoảng cách đó - giữa các bước và trình tự - chính xác là điều mà các nhà nghiên cứu mong đợi tỷ lệ cải thiện lịch sử sẽ thu hẹp lại.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
