Một thiết kế kết hợp giữa các chuyên gia
Theo TestingCatalog AI News, Inkling-Small là một máy biến áp Hỗn hợp các chuyên gia (MoE) chứa tổng cộng 276 tỷ thông số, với 12 tỷ hoạt động trong bất kỳ suy luận nào. Kiến trúc đó - nơi chỉ một phần nhỏ của mô hình "thức dậy" cho mỗi mã thông báo - chính là thủ thuật hiệu quả tương tự đã khiến các mô hình trọng lượng mở của Trung Quốc như DeepSeek trở nên rẻ để chạy. Máy Tư duy xác nhận toàn bộ trọng số đang được công bố trên Ôm mặt.
Mô hình này cũng đi kèm với cửa sổ ngữ cảnh lên tới một triệu mã thông báo và cái mà phòng thí nghiệm gọi là "nỗ lực suy nghĩ có thể thay đổi", từ mức tối thiểu đến "xcao", cho phép các nhà phát triển trao đổi tính toán để có được hiệu suất tùy theo nhiệm vụ. Tính năng tinh chỉnh có sẵn thông qua nền tảng Tinker của công ty và trò chuyện bằng văn bản, hình ảnh và âm thanh có thể truy cập được trong Tinker Playground.
##Được đào tạo về Hệ thống NVIDIA GB300
Thought Machines cho biết Inkling-Small đã được đào tạo trên các hệ thống NVIDIA GB300 NVL72 và sử dụng "tính toán ít hơn đáng kể" so với mẫu Inkling ban đầu, ra mắt vào ngày 15 tháng 7 năm 2026. Mẫu đầu tiên đó — được bao phủ bởi WIRED và TechCrunch là bản phát hành đầu tiên của Think Machines — đã biến phòng thí nghiệm này trở thành một đối thủ cạnh tranh nặng ký gần như chỉ sau một đêm.
Con đường dẫn đến Inkling-Small tiết lộ một chiến lược hiệu quả có chủ ý. Phòng thí nghiệm chỉ bắt đầu làm việc trên mô hình nhỏ hơn sau khi đào tạo Inkling, sử dụng phòng thở để sửa lại cách kết hợp dữ liệu trước khi đào tạo và công thức học máy. Điểm kiểm tra xem trước trước đó đã được đào tạo sau một phần thông qua chưng cất chính sách, với Inkling đóng vai trò là giáo viên, sau đó là khoảng hai tuần học tập tăng cường mã hóa tác nhân theo quy mô lớn.
Nơi nào nó thắng - và nơi nào không
Kết quả của công thức đó rất đáng chú ý. Máy tư duy tuyên bố Inkling-Small vượt qua Inkling ban đầu về các tiêu chuẩn lý luận và mã hóa tác nhân, trong khi Inkling vẫn mạnh hơn về phạm vi kiến thức và tính xác thực. Trong Bài kiểm tra cuối cùng của nhân loại chỉ có văn bản, một bài đánh giá nổi tiếng là khó, mô hình nhỏ hơn được cho là đã đạt điểm 31,6%, so với 29,7% của Inkling — một sự cải thiện thực sự mặc dù các thông số hoạt động đã giảm đáng kể.
Sự đánh đổi là rõ ràng: Inkling-Small là trình lập trình và lý luận sắc bén hơn, trong khi người anh em lớn hơn của nó vẫn giữ được nền tảng kiến thức rộng hơn. Đối với các nhà phát triển, đó là một tính năng, không phải lỗi - nó có nghĩa là chọn công cụ phù hợp cho công việc thay vì trả tiền cho một mô hình khổng lồ duy nhất cho mọi nhiệm vụ.
Một tay vợt Hoa Kỳ ở hạng cân mở do Trung Quốc dẫn đầu
Có lẽ ý nghĩa lớn nhất là địa chính trị. Như CNBC và những người khác đã lưu ý, các mô hình biên giới có trọng lượng mở đã trở thành điểm nóng giữa Mỹ và Trung Quốc, với các phòng thí nghiệm của Trung Quốc như DeepSeek và Qwen của Alibaba đưa ra các mô hình mạnh mẽ và giảm giá theo phương Tây. Forkast đã đóng khung bản phát hành Inkling-Small một cách thẳng thắn: "Cuộc thi hạng cân mở hiện đã có người tham gia ở Hoa Kỳ."
Cho đến nay, các mẫu xe có trọng lượng mở hàng đầu hầu như chỉ đến từ Trung Quốc, làm dấy lên lo ngại ở Washington rằng các phòng thí nghiệm của Mỹ đang nhượng lại toàn bộ danh mục thị trường. Máy tư duy - một công ty khởi nghiệp được tài trợ tốt của Hoa Kỳ do một trong những nhân vật nổi bật nhất trong lĩnh vực AI lãnh đạo - đã thay đổi phép tính đó. Bằng cách phát hành toàn bộ trọng số trên Ôm Mặt và hỗ trợ tinh chỉnh mở, phòng thí nghiệm đang tạo ra một tác động trực tiếp cho cộng đồng nhà phát triển mà các mô hình trọng lượng mở của Trung Quốc đã phát triển.
Được xây dựng cho nhà phát triển, không chỉ là điểm chuẩn
Think Machines đã kết hợp bản phát hành với công cụ nhắm thẳng vào các nhà phát triển. Ngoài các trọng lượng Ôm Mặt mở, Databricks xác nhận dòng Inkling có sẵn trên nền tảng của nó và Tinker Playground hỗ trợ trò chuyện văn bản, hình ảnh và âm thanh đa phương thức ngay lập tức. Cài đặt "nỗ lực suy nghĩ" có thể thay đổi — từ tối thiểu đến "xcao" — được thiết kế để cân bằng kỹ thuật thực tế: chạy với chi phí thấp khi một nhiệm vụ đơn giản, tốn nhiều điện toán hơn khi một vấn đề đòi hỏi lý luận sâu hơn. Tính linh hoạt đó rất quan trọng đối với các công ty khởi nghiệp đang xem hóa đơn suy luận của họ, nhiều người trong số họ đã chuyển sang các lựa chọn thay thế trọng lượng mở rẻ hơn thay vì trả phí API cao cấp.
Xu hướng hiệu quả trong toàn ngành
Inkling-Small cũng phù hợp với một mô hình rộng hơn. Trong toàn ngành, xu hướng tiên tiến đang chuyển từ các mô hình nguyên khối ngày càng lớn sang các hệ thống nhỏ hơn, thông minh hơn, vượt quá trọng lượng của chúng. Từ các mô hình chiến tranh về giá của DeepSeek đến các kiến trúc nén, thông điệp đều nhất quán: số lượng tham số thô không quan trọng bằng mức độ hiệu quả của một mô hình khi sử dụng công suất của nó.
Đối với Máy tư duy, việc đặt cược vào hiệu quả thay vì quy mô hiện đã có hai mô hình sâu sắc - và các điểm chuẩn ban đầu cho thấy chiến lược này đang hoạt động. Với Inkling-Small hiện có sẵn để tải xuống và tinh chỉnh, các nhà phát triển có thể tự mình kiểm tra tuyên bố đó.
Đi trước AI
Các mẫu xe có trọng lượng mở mới đang cập bến mỗi tuần và sự cạnh tranh ngày càng gay gắt. Cập nhật mọi thông tin phát hành thông qua phạm vi đưa tin của ngành AI của chúng tôi.
Đọc thêm tin tức về AI →
