Deweloperzy chcący uciec od Windowsa na laptopach RTX Spark firmy Nvidia właśnie trafili na ścianę. Szczegółowa, praktyczna recenzja opublikowana przez MindStudio wykazała, że ​​chociaż Linux instaluje się i działa na maszynach zorientowanych na sztuczną inteligencję – z akceleracją GPU, pełnym pulpitem i działającymi urządzeniami peryferyjnymi – zaszyfrowane oprogramowanie układowe do zarządzania energią blokuje procesor graficzny do mniej więcej jednej trzeciej szybkości zegara systemu Windows, zmniejszając lokalne wnioskowanie AI z 65,4 tokenów na sekundę do zaledwie 13,9 na tym samym sprzęcie i modelu.

Stanowi to prawie pięciokrotną różnicę w porównaniu z maszynami sprzedawanymi przez twórców sztucznej inteligencji. Więcej kontekstu tej historii znajdziesz w naszych bieżących najnowszych pracach nad sztuczną inteligencją.

Punkty odniesienia: jeden model, cztery konfiguracje

W recenzji porównano GPT-OSS-120B, otwarty model o 120 miliardach parametrów, który mieści się w 128 GB zunifikowanej pamięci laptopa, w czterech konfiguracjach:

  • Windows na ARM (natywny): 65,4 tokenów na sekundę
  • WSL (Linux w Windows): 65,1 tokenów na sekundę
  • Nvidia DGX Spark (jednostka stacjonarna): 61 tokenów na sekundę
  • Native Linux (ten sam laptop): 13,9 tokenów na sekundę

Wzór robi wrażenie. WSL — Linux działający jako podsystem na systemie Windows — niemal dokładnie pasuje do natywnego systemu Windows. Komputer stacjonarny DGX Spark jest nieco wolniejszy niż laptop z systemem Windows, co prawdopodobnie odzwierciedla jego inny profil termiczny. Jednak natywny Linux na tym samym laptopie radzi sobie z zaledwie jedną piątą wydajności systemu Windows.

Główną przyczyną jest szyfrowane oprogramowanie sprzętowe

Winowajcą nie jest sterownik jądra Nvidii typu open source, który działa i zapewnia akcelerację CUDA. Jest to komponent przeznaczony wyłącznie dla systemu Windows, zwany kontrolerami i strukturą platformy Nvidia, który zarządza dostarczaniem mocy pomiędzy procesorem CPU i GPU. Przegląd wykazał, że to oprogramowanie nie ma odpowiednika w systemie Linux — a tabela mocy jest szyfrowana, więc tylko sterownik systemu Windows może go odczytać.

Praktyczny efekt: po podłączeniu laptopa do gniazdka ściennego, procesor graficzny zostaje zablokowany na poziomie około 780 MHz w systemie Linux zamiast 2,2 GHz plus, które osiąga w systemie Windows. Na baterii różnica jest mniejsza, ale przy zasilaniu sieciowym działanie jest dokładnie takie, jakiego można oczekiwać od maksymalnej wydajności wnioskowania — i dokładnie wtedy, gdy Linux nie jest w stanie jej zapewnić.

Problem z podziałem pamięci

Szybkość zegara nie jest jedynym ustawieniem zależnym od systemu Windows. Oprogramowanie sprzętowe laptopa domyślnie rezerwuje 96 GB ze 128 GB zunifikowanej pamięci dla procesora graficznego i – ponownie – tylko system Windows udostępnia ustawienie umożliwiające zmianę tego podziału.

Recenzent odkrył to na własnej skórze: po uruchomieniu Linuksa tylko 28 GB ze 128 GB było widoczne dla systemu. Poprawka wymagała ponownego uruchomienia systemu Windows, zmniejszenia rezerwacji pamięci GPU do 4 GB, a następnie ponownego uruchomienia systemu Linux, który mógł wówczas wyświetlić 120 GB. Bez tego objazdu duże modele, które powinny wygodnie mieścić się na komputerze, będą po prostu poza zasięgiem Linuksa.

Instalacja Linuksa to wciąż przygoda

Nawet dotarcie do dławionego procesora graficznego nie było łatwe. Pierwsza próba recenzji z Omarchy, dystrybucją opartą na Arch, która obsługuje już ten chip na sprzęcie Asusa i Dell, nie powiodła się na MSI Prestige N16 Flip AI Plus z migotliwym, niestabilnym wyświetlaczem podczas uruchamiania. Przejście na Debiana działało bardziej niezawodnie, ale wymagało obejścia: instalator nie mógł połączyć się przez Wi-Fi, co wymagało adaptera USB Ethernet, a jądro waniliowe było dostarczane bez obsługi klawiatury, touchpada ani procesora graficznego laptopa.

Powrót do Omarchy rozwiązał problem ze sterownikiem, ponieważ w jądrze znajduje się sterownik typu open source Nvidii. Na początku procesu wyjście HDMI również odmówiło działania podczas instalacji — recenzent skierował zewnętrzną kamerę na wewnętrzny ekran laptopa, aby podążać za instalatorem. Po skonfigurowaniu ostateczny system działał na pełnym komputerze stacjonarnym w rozdzielczości 4K i 120 Hz z działającym dźwiękiem, klawiaturą, touchpadem i akceleracją CUDA.

Dlaczego ma to znaczenie dla lokalnych twórców sztucznej inteligencji

Platforma RTX Spark jest dostępna na komputerach, w tym MSI Prestige, Asus ProArt i Dell XPS, a wszystkie korzystają z tej samej konstrukcji procesora graficznego, co komputer stacjonarny DGX Spark firmy Nvidia. Istnieje jednak zasadnicza rozbieżność: DGX Spark jest dostarczany z własną wersją systemu Linux firmy Nvidia, podczas gdy każdy wariant laptopa jest dostarczany z systemem Windows na procesorze ARM. Wiele poważnych narzędzi lokalnej sztucznej inteligencji — vLLM, SGLang — jest zbudowanych w oparciu o system Linux i właśnie dlatego programiści kupujący te maszyny chcą mieć na nich Linuksa.

Z recenzji wynika, że ​​WSL jest obecnie praktyczną odpowiedzią: korzysta ze stosu sterowników systemu Windows, utrzymuje pełne zwiększenie mocy procesora graficznego niezależnie od tego, czy jest podłączony do zasilania, czy na baterii, i nadal obsługuje narzędzia AI oparte na Linuksie. Natywny Linux pozostaje projektem hobbystycznym — funkcjonalnym, ale pozostawiającym większość reklamowanej wydajności sprzętu na stole.

Prawdziwe rozwiązanie zależy od przeniesienia przez firmę Nvidia logiki zarządzania energią kontrolera platformy do sterownika dla systemu Linux. Dopóki to nie nastąpi, jak zauważono w recenzji, laptop nie może stać się tym, czego chcą kupujący: przenośnym DGX Spark. Nvidia nie skomentowała publicznie tego ustalenia ani nie zasygnalizowała harmonogramu wsparcia dla Linuksa. Dla programistów decydujących się między tymi laptopami a komputerem stacjonarnym bieżący stan oprogramowania sprzętowego jest istotnym zastrzeżeniem — w specyfikacji podano 2 GHz, ale w systemie Linux tylko system Windows wie, jak o to poprosić.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →