Các nhà phát triển hy vọng thoát khỏi Windows trên máy tính xách tay RTX Spark của Nvidia đã gặp phải bức tường. Một đánh giá thực hành chi tiết do MindStudio công bố cho thấy rằng mặc dù Linux cài đặt và chạy trên các máy tập trung vào AI này - với khả năng tăng tốc GPU, máy tính để bàn đầy đủ và các thiết bị ngoại vi hoạt động - chương trình cơ sở quản lý năng lượng được mã hóa khóa GPU xuống khoảng một phần ba tốc độ xung nhịp Windows của nó, làm suy giảm suy luận AI cục bộ từ 65,4 mã thông báo mỗi giây xuống chỉ còn 13,9 trên cùng một phần cứng và mô hình.
Đó là khoảng cách gần gấp năm lần so với số lượng máy được các nhà phát triển AI tiếp thị. Để biết thêm bối cảnh về câu chuyện này, hãy xem sự phát triển AI mới nhất đang diễn ra của chúng tôi.
Điểm chuẩn: một model, bốn cấu hình
Bài đánh giá đã đo điểm chuẩn GPT-OSS-120B, một mẫu mở có 120 tỷ tham số phù hợp với bộ nhớ hợp nhất 128GB của máy tính xách tay, trên bốn cấu hình:
- Windows trên ARM (bản địa): 65,4 mã thông báo mỗi giây
- WSL (Linux bên trong Windows): 65,1 mã thông báo mỗi giây
- Nvidia DGX Spark (thiết bị để bàn): 61 mã thông báo mỗi giây
- Linux gốc (cùng máy tính xách tay): 13,9 mã thông báo mỗi giây
Các mô hình là nổi bật. WSL - Linux chạy dưới dạng hệ thống con trên Windows - gần như khớp chính xác với Windows gốc. DGX Spark dành cho máy tính để bàn chậm hơn một chút so với máy tính xách tay trên Windows, có thể phản ánh cấu hình nhiệt khác nhau của nó. Nhưng Linux gốc trên cùng một máy tính xách tay chỉ quản lý được 1/5 hiệu suất của Windows.
Firmware bị mã hóa là nguyên nhân gốc rễ
Thủ phạm không phải là trình điều khiển hạt nhân Nvidia mã nguồn mở, trình điều khiển này hoạt động và cung cấp khả năng tăng tốc CUDA. Nó là một thành phần chỉ dành cho Windows được gọi là Bộ điều khiển và Khung nền tảng Nvidia, quản lý việc cung cấp năng lượng giữa CPU và GPU. Quá trình đánh giá cho thấy chương trình cơ sở này không có phiên bản tương đương với Linux — và bảng nguồn của nó được mã hóa nên chỉ trình điều khiển Windows mới có thể đọc được.
Hiệu quả thực tế: một khi máy tính xách tay được cắm vào nguồn điện trên tường, GPU sẽ bị khóa ở mức khoảng 780 MHz trên Linux thay vì 2,2 GHz trở lên mà nó đạt được trên Windows. Về pin, sự khác biệt thu hẹp lại, nhưng hoạt động cắm vào chính xác là thời điểm bạn mong đợi hiệu suất suy luận cao nhất — và chính xác là khi Linux không thể cung cấp được hiệu suất đó.
Vấn đề phân chia bộ nhớ
Tốc độ đồng hồ không phải là cài đặt duy nhất phụ thuộc vào Windows. Theo mặc định, phần sụn của máy tính xách tay dự trữ 96GB trong bộ nhớ hợp nhất 128GB cho GPU và - một lần nữa - chỉ Windows mới hiển thị cài đặt để thay đổi phần phân chia đó.
Người đánh giá đã phát hiện ra điều này một cách khó khăn: sau khi Linux khởi động, hệ thống chỉ hiển thị 28GB trong số 128GB. Bản sửa lỗi yêu cầu khởi động lại vào Windows, giảm mức dự trữ bộ nhớ GPU xuống 4GB, sau đó khởi động lại vào Linux, khi đó có thể thấy 120GB. Nếu không có đường vòng đó, các mô hình lớn có thể vừa vặn thoải mái trên máy sẽ nằm ngoài tầm với của Linux.
Cài đặt Linux vẫn là một cuộc phiêu lưu
Ngay cả việc đạt được GPU được điều chỉnh cũng không hề nhỏ. Nỗ lực đầu tiên của bài đánh giá với Omarchy, một bản phân phối dựa trên Arch đã hỗ trợ chip trên phần cứng của Asus và Dell, đã thất bại trên MSI Prestige N16 Flip AI Plus với màn hình nhấp nháy, không ổn định trong khi khởi động. Việc chuyển sang Debian hoạt động đáng tin cậy hơn nhưng đòi hỏi phải có giải pháp thay thế: trình cài đặt không thể kết nối qua Wi-Fi, yêu cầu bộ điều hợp USB Ethernet và nhân vanilla được cung cấp mà không hỗ trợ bàn phím, bàn di chuột hoặc GPU của máy tính xách tay.
Quay trở lại Omarchy đã giải quyết được vấn đề về trình điều khiển vì nhân của nó bao gồm trình điều khiển nguồn mở của Nvidia. Ở giai đoạn đầu của quá trình, đầu ra HDMI cũng từ chối hoạt động trong quá trình cài đặt - người đánh giá đã sử dụng cách hướng camera bên ngoài vào màn hình bên trong của máy tính xách tay chỉ để theo dõi trình cài đặt. Sau khi được định cấu hình, hệ thống cuối cùng sẽ chạy một máy tính để bàn đầy đủ ở 4K và 120Hz với âm thanh, bàn phím, bàn di chuột và khả năng tăng tốc CUDA đang hoạt động.
Tại sao điều này lại quan trọng đối với các nhà phát triển AI địa phương
Nền tảng RTX Spark được trang bị trên các máy bao gồm MSI Prestige, Asus ProArt và Dell XPS, tất cả đều sử dụng cùng một thiết kế GPU như máy tính để bàn DGX Spark của Nvidia. Nhưng có một điểm khác biệt chính: DGX Spark được cài sẵn bản dựng Linux của Nvidia, trong khi mọi biến thể máy tính xách tay đều chạy Windows trên ARM. Phần lớn công cụ AI cục bộ nghiêm túc - vLLM, SGLang - được xây dựng dựa trên Linux, đó chính xác là lý do tại sao các nhà phát triển mua những máy này muốn có Linux trên chúng.
Bài đánh giá kết luận rằng WSL là câu trả lời thực tế hiện nay: nó dựa trên ngăn xếp trình điều khiển Windows, duy trì khả năng tăng cường GPU đầy đủ dù được cắm vào hay dùng pin và vẫn chạy công cụ AI đầu tiên của Linux. Linux nguyên bản vẫn là một dự án theo sở thích — có chức năng, nhưng lại để lại phần lớn hiệu suất được quảng cáo của phần cứng.
Cách khắc phục thực sự phụ thuộc vào việc Nvidia chuyển logic quản lý nguồn của bộ điều khiển nền tảng sang trình điều khiển Linux của nó. Đánh giá lưu ý rằng cho đến khi điều đó xảy ra, chiếc máy tính xách tay không thể trở thành thứ mà người mua mong muốn: một chiếc DGX Spark di động. Nvidia chưa công khai bình luận về phát hiện này hoặc đưa ra mốc thời gian hỗ trợ Linux. Đối với các nhà phát triển quyết định giữa những máy tính xách tay này và máy tính để bàn, trạng thái hiện tại của chương trình cơ sở là một cảnh báo quan trọng - bảng thông số kỹ thuật cho biết 2 GHz, nhưng trên Linux, chỉ Windows mới biết cách yêu cầu nó.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →