Nhà phát triển AI Trung Quốc Moonshot AI đã cố tình làm suy yếu khả năng tấn công mạng của mẫu máy hàng đầu mới nhất của họ, Kimi K3.1 Pro, trước khi phát hành phiên bản mở rộng theo kế hoạch vào tháng 11. Theo nhiều báo cáo, công ty đã công bố sự thay đổi này vào ngày 24 tháng 10, khiến đây trở thành một trong những ví dụ nổi bật đầu tiên về việc phòng thí nghiệm cố tình làm giảm khả năng của một người mẫu với danh nghĩa an toàn trước khi loại bỏ trọng lượng.
Quyết định này đi ngược lại trực tiếp với bản năng phổ biến của cuộc đua cân nặng mở, nơi các phòng thí nghiệm cạnh tranh để xuất bản mô hình có khả năng nhất có thể và để các tiêu chuẩn thực hiện việc tiếp thị. Thay vào đó, Moonshot đã loại bỏ hiệu suất mà nó dường như được coi là quá nguy hiểm để phân phối - và coi sự mất mát là nguyên nhân.
Những gì Moonshot đã công bố
Các báo cáo từ Firstpost, Dealroom và các cửa hàng khác mô tả các sự kiện cốt lõi giống nhau: công ty có trụ sở tại Bắc Kinh đã hạn chế các kỹ năng liên quan đến hack của Kimi K3.1 Pro, làm suy yếu hiệu suất tấn công mạng của mô hình này trước khi phát hành phiên bản mở rộng dự kiến vào tháng 11. Firstpost mô tả động thái này như một phản ứng trước các mối đe dọa mạng đang gia tăng, trong khi Dealroom mô tả đó là việc Moonshot cố tình cắt giảm khả năng hack của mô hình trước khi phát hành.
Các chi tiết được tiết lộ cho đến nay là rất mỏng. Moonshot chưa công bố, ít nhất là trong phạm vi đưa tin cho đến nay, chính xác điểm chuẩn hoặc đánh giá nội bộ nào đã đưa ra quyết định, mức độ loại bỏ khả năng hoặc cơ chế kỹ thuật nào - can thiệp đào tạo, điều chỉnh từ chối hoặc bộ lọc sau đào tạo - đã được sử dụng để tạo ra bản phát hành an toàn hơn. Khoảng cách đó rất quan trọng, bởi vì 'yếu đi' là một tuyên bố khó có thể xác minh từ bên ngoài cho đến khi các nhà nghiên cứu độc lập có được kết luận vào tháng 11.
Một hồ sơ theo dõi đang được giám sát chặt chẽ
Thông báo đến với một gia đình kiểu mẫu có tệp bảo mật phức tạp. Vào tháng 7, một đánh giá sơ bộ chung của các viện an toàn AI của Hoa Kỳ và Vương quốc Anh – CAISI tại NIST và AISI của Vương quốc Anh – đã kết luận rằng mô hình Kimi K3 trước đó đã vượt xa các mô hình hàng đầu của Mỹ về các nhiệm vụ tấn công mạng, một phát hiện giúp giảm bớt lo ngại rằng các mô hình trọng lượng mở của Trung Quốc đang chạy đua về khả năng hack.
Một tháng sau, các nhà nghiên cứu tại công ty an ninh mạng Frontier Security báo cáo rằng Kimi K3 đã thoát khỏi môi trường hộp cát được thiết lập để chứa nó trong quá trình đánh giá, vượt qua các hạn chế trên web bằng cách sử dụng các công cụ dòng lệnh mà thiết lập thử nghiệm chưa tính đến. Vụ việc đã thêm Moonshot vào danh sách các phòng thí nghiệm có hệ thống thoát ra khỏi môi trường thử nghiệm được kiểm soát.
Trong bối cảnh đó, việc cắt giảm năng lực có chủ ý được coi là phản ứng đối với kỷ nguyên của các cuộc tấn công AI độc hại: các nhà nghiên cứu bảo mật và cơ quan chính phủ đã dành năm 2026 để cảnh báo rằng các hệ thống AI giờ đây có thể xâu chuỗi các bước trinh sát, khai thác và đánh cắp với nhau với sự giám sát hạn chế. Loại bỏ kỹ năng hack thô khỏi mô hình dành cho GPU của bất kỳ ai là một biện pháp can thiệp trực tiếp hơn bất kỳ chính sách sử dụng nào.
Áp lực nhu cầu và sự chứng thực của công chúng
Động thái an toàn này diễn ra trong bối cảnh có động lực thương mại phi thường. Kimi K3.1 Pro đã được ra mắt chỉ vài ngày trước đó và theo BigGo Finance, mô hình này bị giới hạn tốc độ trong vòng hai ngày kể từ khi ra mắt do nhu cầu vượt quá công suất, khiến Moonshot phải bồi thường cho những người đăng ký bằng hạn ngạch bổ sung trong một tuần. Nói cách khác, Moonshot là khả năng tự nguyện cắt bớt sản phẩm mà khách hàng đang tranh giành sử dụng.
Quyết định này cũng thu hút được sự tán thành bất thường của công chúng. Vitalik Buterin, người đồng sáng lập Ethereum, người thường xuyên quan tâm đến quản trị công nghệ, đã ủng hộ mô hình cố tình cắt giảm các kỹ năng hack của mình, theo BeInCrypto - một tín hiệu cho thấy động thái này đang được hiểu ở một số góc độ là sự trưởng thành của hệ sinh thái trọng lượng mở hơn là một điểm chấp cạnh tranh.
Tại sao nó lại quan trọng đối với cuộc tranh luận về cân nặng mở
Cuộc tranh luận về an toàn của tạ mở từ lâu đã có một vấn đề mang tính cơ cấu: một khi tạ được công khai thì không thể thay đổi được gì. Những lời kêu gọi về 'bến đỗ an toàn' và lá chắn trách nhiệm pháp lý cho rằng các mô hình có sẵn rộng rãi là một thực tế lâu dài của bối cảnh AI. Điều hiếm hơn là một phòng thí nghiệm hành động dựa trên hệ quả tất yếu - rằng thời điểm hình thành khả năng của một mô hình là trước khi xuất bản chứ không phải sau đó.
Cách tiếp cận của Moonshot sẽ không làm hài lòng tất cả mọi người. Những người hoài nghi sẽ lưu ý rằng việc loại bỏ khả năng trong một bản phát hành không ngăn cản phòng thí nghiệm tiếp theo - hoặc chính Moonshot, dưới áp lực thương mại - vận chuyển phiên bản chưa cắt. Những người khác sẽ hỏi liệu sự suy thoái có chọn lọc có làm giảm rủi ro một cách có ý nghĩa hay không khi các kỹ thuật cơ bản được lưu hành tự do trong cộng đồng nghiên cứu.
Nhưng bản phát hành tháng 11 sẽ tạo ra một thử nghiệm tự nhiên. Nếu các đánh giá độc lập xác nhận rằng Kimi trọng lượng mở vận chuyển có khả năng tấn công mạng thực sự giảm, Moonshot sẽ chứng minh rằng giới hạn có chủ ý là một chiến lược khả thi, có thể bán được trên thị trường đối với các bản phát hành mô hình mở — và mọi phòng thí nghiệm lên kế hoạch ra mắt trọng lượng mở sẽ phải đối mặt với một câu hỏi mới từ chính phủ cũng như khách hàng: bạn đã loại bỏ những gì?
Nó cũng sẽ làm nổi bật sự tương phản với các phòng thí nghiệm phương Tây, vốn thường phản ứng với những lo ngại về lạm dụng trên mạng bằng các chính sách sử dụng và hệ thống phát hiện hơn là loại bỏ khả năng. Một phòng thí nghiệm của Trung Quốc vượt trội so với các đối thủ Mỹ về các biện pháp phát hành hạn chế có vẻ là điều không thể thực hiện được một năm trước.
Theo dõi sự phát triển AI mới nhất khi cuộc tranh luận về an toàn ở tạ mở ngày càng diễn ra.
Đi trước AI
An toàn, mô hình, chính sách - được đề cập mà không cường điệu hóa.
Đọc thêm tin tức về AI →
