Edge0-145B có mã nguồn mở vào ngày 12 tháng 11 năm 2026, cùng với Edge0-120B nhỏ hơn, khung suy luận hợp nhất và các công cụ triển khai. Công ty khởi nghiệp này mô tả Edge0-145B là mô hình AI trên thiết bị nguồn mở đầu tiên với 145 tỷ thông số và cho biết nó mang khả năng mã hóa, lý luận và tác nhân cạnh tranh với các mô hình đám mây tiên tiến cho phần cứng của người tiêu dùng.
Bản phát hành ra mắt cùng ngày nó đã leo lên 219 điểm trên Hacker News, trong đó triển vọng về một mô hình tham số hơn 100B chạy mà không có máy chủ đã thu hút sự chú ý đáng kể từ các nhà phát triển theo dõi suy luận cục bộ. For more context on this story, see our ongoing artificial intelligence updates.
Những con số đằng sau tuyên bố về máy tính xách tay
Theo thông báo của công ty, Edge0-145B chạy trên máy tính xách tay cá nhân tương thích như MacBook Pro với kết quả được báo cáo như sau:
- Bộ nhớ tối đa 29GB, đủ thấp để phù hợp với các máy tiêu dùng cao cấp không có máy chủ chuyên dụng
- Hơn 1.100 mã thông báo mỗi giây điền trước, cho phép mô hình xử lý các lời nhắc trải dài hàng chục trang mã trước khi bắt đầu tạo
- Giải mã hơn 80 mã thông báo mỗi giây, công ty lưu ý rằng tốc độ này nhanh hơn một người đọc
- Công suất thông thường khoảng 120W, duy trì hoạt động mà không bị giật trong thiết lập được báo cáo
- Ngữ cảnh 128K đến 256K, với tốc độ tạo về cơ bản không thay đổi trên các đầu vào dài
Những số liệu này đến từ các điểm chuẩn được công bố của chính Edge0 chứ không phải từ thử nghiệm độc lập và công ty đã phát hành đầy đủ — trọng lượng, khung suy luận và công cụ triển khai — để các nhà phát triển có thể tái tạo các phép đo trên phần cứng của riêng họ.
Tại sao các mẫu trên thiết bị vẫn có kích thước nhỏ
Thông báo này bao gồm bối cảnh hữu ích về lý do tại sao các mẫu máy lớn trước đây thường vắng bóng trên máy tính xách tay. Trước tháng 9 năm 2026, giới hạn bộ nhớ giữ hầu hết các kiểu máy trên thiết bị ở mức dưới 10 tỷ thông số. Mô hình nền tảng trên thiết bị của Apple Intelligence có khoảng 3 tỷ thông số, trong khi Gemini Nano của Google xuất xưởng ở phiên bản 1.8B và 3.25B.
Ràng buộc mang tính vật lý: trọng lượng mô hình phải được đọc từ bộ nhớ trong mỗi bước tạo, cạnh tranh băng thông với hệ điều hành và các ứng dụng khác. Ngay cả model 35B được nén mạnh cũng có thể cần khoảng 20GB bộ nhớ, vượt xa mức điện thoại có thể phân bổ.
Bản phát hành trước đó của Edge0 đã cho thấy cách tiếp cận của công ty đang hướng tới. Mẫu điện thoại Edge0-35B đã báo cáo bộ nhớ cao nhất dưới 2,5 GB, cung cấp hơn 37 mã thông báo mỗi giây trên iPhone 18 Pro Max. Edge0-145B có thông số gấp khoảng bốn lần so với model đó trong khi cấu hình máy tính xách tay của nó báo cáo tốc độ giải mã gần gấp đôi ở mức bộ nhớ 28GB - công ty cẩn thận lưu ý rằng các phép đo này áp dụng cho các kiểu máy và phần cứng khác nhau.
Trợ lý hoàn thành công việc
Ngoài tốc độ thô, Edge0 định vị mô hình này như một tác nhân chứ không phải là một chatbot. Thông báo mô tả một hệ thống lập kế hoạch, viết và chạy mã, gỡ lỗi và kiểm tra kết quả một cách trực quan cho các dự án như cảnh 3D, trò chơi, chương trình phần cứng và thiết kế PCB.
Công ty báo cáo rằng các kết quả mã hóa, lý luận và làm theo hướng dẫn có khả năng cạnh tranh với các mô hình đám mây biên giới cụ thể, mặc dù các so sánh được công bố của họ vẫn chưa được xác minh độc lập. Giống như bất kỳ điểm chuẩn nào do nhà cung cấp báo cáo, các nhà phát triển sẽ muốn xem đánh giá của bên thứ ba trước khi đưa ra kết luận về mức độ ngang bằng ở cấp độ biên giới.
Đối số về quyền riêng tư và chi phí
Quảng cáo chiêu hàng dựa trên ba lợi thế so với quy trình làm việc trên đám mây. Suy luận cục bộ không phát sinh phí API cho mỗi mã thông báo, dữ liệu nhạy cảm có thể vẫn còn trên thiết bị và các khả năng cốt lõi tiếp tục hoạt động ngoại tuyến. Đối với các doanh nghiệp xử lý dữ liệu được quản lý và đối với các nhà phát triển trong môi trường hạn chế về băng thông, các thuộc tính đó có thể vượt xa khả năng thô của mô hình biên giới được lưu trữ.
Tất nhiên, phần cứng và điện không miễn phí. Edge0 trực tiếp thừa nhận điều này, lưu ý rằng số liệu công suất của nó phản ánh mức tiêu thụ duy trì ~ 120W - có thể so sánh với một máy tính xách tay hiệu suất cao chạy khối lượng công việc đòi hỏi khắt khe, điều này có ý nghĩa thực sự đối với thời lượng pin và nhiệt độ.
Ý nghĩa của nó đối với hệ sinh thái AI địa phương
Phân tích đi kèm của thông báo theo dõi 67 mô hình mở có tham số ít nhất 1B từ 14 phòng thí nghiệm dành cho điện thoại, máy tính xách tay và PC AI và quỹ đạo rất dốc. Nếu các con số được báo cáo giữ nguyên theo đánh giá độc lập, thì Edge0-145B sẽ thể hiện một bước thay đổi về những gì phần cứng của người tiêu dùng có thể lưu trữ: một loại mô hình cho đến nay vẫn yêu cầu GPU của trung tâm dữ liệu phải có sẵn trên các máy mà mọi người đã sở hữu.
Các đối thủ cạnh tranh đang di chuyển theo cùng một hướng. Meta đã xuất xưởng mô hình tác nhân mở Muse Glimmer được xây dựng để chạy trên GPU của người tiêu dùng và khung Mô hình nền tảng của Apple đã làm mới mối quan tâm của nhà phát triển đối với suy luận trên thiết bị. Sự khác biệt nằm ở quy mô: không có gì trong hệ sinh thái trọng lượng mở hiện tại đạt được gần 145B tham số nhắm mục tiêu ngân sách bộ nhớ cấp máy tính xách tay.
Việc phát hành cũng diễn ra trong bối cảnh cuộc tranh luận ngày càng gay gắt về việc tập trung hóa. Từ các trình duyệt tập trung vào quyền riêng tư bổ sung các luồng thanh toán tác nhân đến các khung suy luận ưu tiên cục bộ, phe trọng lượng mở của ngành đã dành năm 2026 để lập luận rằng AI có khả năng không cần phải sống trong trung tâm dữ liệu của siêu quy mô. Edge0-145B là điểm dữ liệu tích cực nhất trong lập luận đó.
Các nhà phát triển có thể tải xuống trọng số mô hình, khám phá khung suy luận hoặc dùng thử Ứng dụng Edge0 thông qua trang web của công ty. Liệu các điểm chuẩn có tồn tại được trong sự giám sát của cộng đồng hay không là một câu hỏi mở - nhưng với toàn bộ ngăn xếp được phát hành để tái sản xuất, việc xem xét kỹ lưỡng đó sẽ không mất nhiều thời gian.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
