Think Machines Lab, công ty khởi nghiệp AI do cựu giám đốc công nghệ OpenAI Mira Murati thành lập, đã phát hành một mô hình trọng lượng mở mới vào ngày 20 tháng 11 năm 2026: Inkling 2 Mini, một mô hình nhỏ gọn được xây dựng dựa trên một kiến trúc khác thường mà công ty cho biết cho phép nó vượt xa số lượng thông số của nó. Model này đủ nhỏ để chạy cục bộ trên máy tính xách tay tiêu dùng, với tổng dung lượng bộ nhớ khoảng 20GB.
Những con số tiêu đề rất ấn tượng đối với loại kích thước. Theo thông báo của công ty, Inkling 2 Mini dẫn đầu mọi mô hình trọng lượng mở với tổng số tham số dưới 100 tỷ trên DeepSWE v1.1, giải quyết 48,2% nhiệm vụ và trên Vals Index v2.2, đạt 46,5%. Cả hai điểm chuẩn đều đo lường khả năng mã hóa tác nhân, một trong những giới hạn năng lực gây tranh cãi nhất về mặt thương mại trong ngành hiện nay. For more context on this story, see our ongoing artificial intelligence updates.
Điều gì làm cho máy biến áp có vòng lặp trở nên khác biệt
Inkling 2 Mini là một máy biến áp dạng vòng. Thay vì chuyển từng mã thông báo qua mỗi lớp chính xác một lần, mô hình sẽ chạy các lớp giữa ba lần cho mỗi mã thông báo. Trên thực tế, mô hình có thể áp dụng tính toán tuần tự hơn cho một bài toán mà không tạo ra nhiều mã thông báo đầu ra hơn.
Định hướng của công ty là việc lặp lại cho phép mô hình suy luận lâu hơn mà không cần viết ra lý do. Lý luận theo chuỗi suy nghĩ truyền thống sử dụng mã thông báo cho các bước trung gian có thể nhìn thấy được; thay vào đó, tính toán chi tiêu vòng lặp. Điều đó có những hậu quả thực sự đối với tốc độ thực hiện các nhiệm vụ trong đó chất lượng lý luận quan trọng hơn số lượng mã thông báo và mã hóa tác nhân chính xác là loại nhiệm vụ đó.
Về cơ bản, Inkling 2 Mini là mô hình Hỗn hợp các chuyên gia với tổng số 26,4 tỷ tham số và chỉ 3,4 tỷ hoạt động trên mỗi mã thông báo, với 5,4 tỷ lượt kích hoạt trọng lượng trên mỗi mã thông báo sau khi tính đến vòng lặp. Hầu hết các trọng lượng đã được đào tạo và được triển khai nguyên bản trong NVFP4, định dạng có độ chính xác thấp mà Nvidia đã và đang đẩy mạnh trên dòng sản phẩm trung tâm dữ liệu của mình, với bốn lớp cuối cùng được giữ trong MXFP8. Sự kết hợp giữa lượng tử hóa mạnh mẽ và số lượng tham số hoạt động nhỏ là điều khiến mô hình có dung lượng khoảng 20GB, phù hợp với máy tính xách tay và máy AI để bàn.
Phòng thí nghiệm đã trình diễn mô hình này chạy ngoại tuyến, ở chế độ trên máy bay, trên MacBook Pro với chip M5 Pro và bộ nhớ 48GB, nơi nó tạo ra một trình mô phỏng chuyến bay có thể chơi được trong vài phút.
Sự đánh đổi về khả năng giám sát
Việc phát hành đi kèm với nghiên cứu có thể quan trọng hơn điểm chuẩn. Nếu một mô hình lý luận nội bộ thông qua các vòng lặp thay vì thể hiện chuỗi suy nghĩ của nó bằng mã thông báo, thì văn bản lý do hiển thị sẽ không còn là cửa sổ trung thực về những gì mô hình thực sự đang làm. Điều đó có ý nghĩa đối với nghiên cứu về an toàn AI, trong đó việc giám sát chuỗi suy nghĩ đã trở thành một trong số ít công cụ giám sát thực tế hiện có.
Cùng với Inkling 2 Mini, Thought Machines đã phát hành một biến thể vòng lặp biến đổi dành riêng cho nghiên cứu để đo lường hiệu quả. Các kết quả đi theo hướng đáng khích lệ về năng lực, nhưng lại làm phức tạp thêm công tác giám sát. Khoảng thời gian của mô hình vòng lặp thay đổi đối với các nhiệm vụ được hoàn thành mà không cần bất kỳ chuỗi suy nghĩ nào được cải thiện từ 16 giây trong một lần chuyển sang 37 giây ở ba vòng lặp và hiệu suất trên điểm chuẩn lý luận nối tiếp tiếp tục cải thiện lên mười vòng lặp — nhiều gấp đôi so với mô hình đã được đào tạo.
Trong khi đó, chuỗi suy nghĩ có thể nhìn thấy ngày càng ngắn hơn khi các vòng lặp được thêm vào, nhưng công ty báo cáo rằng nó vẫn dễ đọc xuyên suốt và mô hình không có xu hướng cao hơn trong các thử nghiệm phá hoại tác nhân khi độ sâu vòng lặp tăng lên. Think Machines mô tả đây là một số mô hình kiến trúc vòng lặp đầu tiên có sẵn cho các nhà nghiên cứu, định vị việc phát hành một phần là lời mời cộng đồng an toàn nghiên cứu khả năng giám sát trên trọng lượng thực thay vì thiết lập mô phỏng.
Một trận đấu cạnh tranh ở hạng dưới 100B
Các điểm chuẩn đặt Inkling 2 Mini so với trường dưới 100B đông đúc bao gồm các mẫu Gemma 4 trong phạm vi 26B–31B, Qwen3.8-27B, Muse Glimmer và mẫu xem trước 65B có tên Ripple. Think Machines tuyên bố mô hình của nó cũng chạy nhanh hơn so với các đối thủ cạnh tranh có hiệu suất tương tự, trích dẫn thông lượng mã thông báo lý thuyết ở quy mô lô một.
Phân khúc dưới 100B đã trở nên quan trọng về mặt chiến lược vì hai lý do. Đầu tiên, hoạt động triển khai trên thiết bị và riêng tư đang phát triển nhanh chóng khi các doanh nghiệp ngại gửi dữ liệu nhạy cảm đến các API được lưu trữ. Thứ hai, kinh tế học trên mỗi mã thông báo cho suy luận cục bộ ngày càng ủng hộ các mô hình lượng tử hóa nhỏ, mạnh mẽ hơn so với các bản sao chắt lọc của các mô hình lớn. MoE 26,4B chạy nguyên bản trong NVFP4 với tính toán vòng lặp là câu trả lời trực tiếp cho thị trường đó.
Mô hình này có sẵn trên Hugging Face với thẻ mô hình đã được xuất bản và Think Machines đang thúc đẩy quyền truy cập thông qua nền tảng tinh chỉnh Tinker của mình. Giữa bản phát hành này và các mô hình dòng Inkling trước đó của phòng thí nghiệm, công ty khởi nghiệp này đang xây dựng một bản sắc kỹ thuật riêng biệt xoay quanh việc mở rộng quy mô điện toán theo kiểu lặp lại tại thời điểm mà hầu hết các phòng thí nghiệm biên giới vẫn tập trung vào việc mở rộng các tham số và dữ liệu.
Cho dù vòng lặp có trở thành một kiến trúc phổ biến hay vẫn là một kiến trúc thích hợp, bản phát hành này đánh dấu một thời điểm đáng chú ý: một trong những công ty khởi nghiệp AI được theo dõi chặt chẽ nhất đang đặt cược rằng tính toán thông minh hơn trên mỗi mã thông báo — không phải nhiều mã thông báo hơn và không nhiều tham số hơn — là nơi thu được lợi nhuận tiếp theo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →