Nvidia'nın RTX Spark dizüstü bilgisayarlarında Windows'tan kaçmayı ümit eden geliştiriciler duvara çarptı. MindStudio tarafından yayınlanan ayrıntılı bir uygulamalı inceleme, Linux'un GPU hızlandırmalı, tam masaüstü ve çalışan çevre birimleriyle bu AI odaklı makinelere kurulup çalıştırılmasına rağmen, şifrelenmiş güç yönetimi donanım yazılımının GPU'yu Windows saat hızının kabaca üçte birine kilitlediğini ve yerel AI çıkarımını aynı donanım ve modelde saniyede 65,4 jetondan sadece 13,9'a düşürdüğünü buldu.
Bu, yapay zeka geliştiricilerinde pazarlanan makinelerle karşılaştırıldığında neredeyse beş katlık bir fark anlamına geliyor. Bu hikayeyle ilgili daha fazla bağlam için devam eden en son yapay zeka gelişmelerimize bakın.
Karşılaştırmalar: bir model, dört konfigürasyon
İncelemede, dizüstü bilgisayarın 128 GB birleşik belleğine sığan 120 milyar parametreli açık model olan GPT-OSS-120B dört yapılandırmayla karşılaştırıldı:
- ARM'de Windows (yerel): Saniyede 65,4 jeton
- WSL (Windows içinde Linux): Saniyede 65,1 jeton
- Nvidia DGX Spark (masaüstü ünitesi): Saniyede 61 jeton
- Yerel Linux (aynı dizüstü bilgisayar): Saniyede 13,9 jeton
Desen dikkat çekici. WSL - Windows'un üzerinde bir alt sistem olarak çalışan Linux - yerel Windows'la neredeyse tamamen eşleşir. Masaüstü sınıfı DGX Spark, Windows'taki dizüstü bilgisayardan biraz daha yavaştır ve muhtemelen farklı termal profilini yansıtır. Ancak aynı dizüstü bilgisayardaki yerel Linux, Windows performansının ancak beşte birini yönetebiliyor.
Şifrelenmiş ürün yazılımı temel nedendir
Suçlu, çalışan ve CUDA hızlandırması sağlayan açık kaynaklı Nvidia çekirdek sürücüsü değil. Bu, CPU ile GPU arasındaki güç dağıtımını yöneten, Nvidia Platform Denetleyicileri ve Çerçevesi adı verilen, yalnızca Windows'a özgü bir bileşendir. İnceleme, bu aygıt yazılımının Linux eşdeğeri olmadığını ve güç tablosunun şifrelendiğini, dolayısıyla yalnızca Windows sürücüsünün okuyabildiğini ortaya çıkardı.
Pratik etkisi: Dizüstü bilgisayar duvar prizine takıldığında GPU, Windows'ta ulaştığı 2,2 GHz artı yerine Linux'ta yaklaşık 780 MHz'e kilitleniyor. Pil konusunda fark daralır, ancak fişe takılı çalışma tam olarak en yüksek çıkarım performansını beklediğiniz zamandır ve tam olarak Linux'un bunu sağlayamadığı zamandır.
Hafızanın bölünmüş hali
Saat hızı Windows'a bağlı tek ayar değildir. Dizüstü bilgisayarın donanım yazılımı, varsayılan olarak GPU için 128 GB'lık birleştirilmiş belleğin 96 GB'ını ayırır ve yine yalnızca Windows, bu bölmeyi değiştirmek için bir ayar sunar.
İncelemeyi yapan kişi bunu zor yoldan keşfetti: Linux'u başlattıktan sonra 128 GB'ın yalnızca 28 GB'ı sistem tarafından görülebiliyordu. Düzeltme, Windows'a yeniden önyükleme yapmayı, GPU bellek rezervasyonunu 4 GB'a düşürmeyi ve ardından Linux'ta yeniden başlatmayı gerektiriyordu; bu da daha sonra 120 GB'ı görebilirdi. Bu dolambaçlı yol olmadan, makineye rahatça sığması gereken büyük modellere Linux'ta ulaşılamaz.
Linux'u kurmak hala bir macera
Kısıtlanmış GPU'ya ulaşmak bile önemsiz değildi. İncelemenin, Asus ve Dell donanımlarındaki yongayı zaten destekleyen Arch tabanlı bir dağıtım olan Omarchy ile yaptığı ilk deneme, MSI Prestige N16 Flip AI Plus'ta önyükleme sırasında titreyen, dengesiz bir ekranla başarısız oldu. Debian'a geçiş daha güvenilir bir şekilde çalıştı ancak geçici çözümler gerektiriyordu: Yükleyici Wi-Fi üzerinden bağlanamıyordu, bir USB Ethernet adaptörü gerektiriyordu ve vanilya çekirdeği dizüstü bilgisayarın klavyesi, dokunmatik yüzeyi veya GPU'su desteği olmadan gönderiliyordu.
Omarchy'ye geri dönmek, sürücü sorununu çözdü çünkü çekirdeği Nvidia'nın açık kaynak sürücüsünü bir araya getiriyor. Sürecin başlarında, HDMI çıkışı da kurulum sırasında çalışmayı reddetti; incelemeyi yapan kişi, yalnızca yükleyiciyi takip etmek için dizüstü bilgisayarın dahili ekranına harici bir kamera yöneltmeye başvurdu. Yapılandırıldıktan sonra son sistem, çalışan ses, klavye, dokunmatik yüzey ve CUDA hızlandırma özellikleriyle 4K ve 120 Hz'de tam bir masaüstü çalıştırdı.
Bu, yerel yapay zeka geliştiricileri için neden önemli?
RTX Spark platformu, tümü Nvidia'nın DGX Spark masaüstü ünitesiyle aynı GPU tasarımını kullanan MSI Prestige, Asus ProArt ve Dell XPS gibi makinelerle birlikte gelir. Ancak önemli bir farklılık var: DGX Spark, Nvidia'nın kendi Linux yapısıyla birlikte kutudan çıkarken, her dizüstü bilgisayar modeli ARM'de Windows ile birlikte geliyor. Ciddi yerel yapay zeka araçlarının (vLLM, SGLang) çoğu Linux öncelikli olarak geliştirildi, bu makineleri satın alan geliştiricilerin üzerlerinde Linux olmasını istemelerinin nedeni tam da bu.
İnceleme, WSL'nin günümüzün pratik yanıtı olduğu sonucuna varıyor: Windows sürücü yığınını kullanıyor, takılı veya pille çalışırken GPU'nun tam güçlenmesini sağlıyor ve yine de Linux'un ilk yapay zeka araçlarını çalıştırıyor. Yerel Linux hobi amaçlı bir proje olmaya devam ediyor; işlevsel, ancak donanımın reklamı yapılan performansının çoğunu masada bırakıyor.
Gerçek bir düzeltme, Nvidia'nın platform denetleyicisinin güç yönetimi mantığını Linux sürücüsüne taşımasına bağlıdır. İnceleme notlarına göre bu gerçekleşene kadar dizüstü bilgisayar, alıcıların istediği gibi taşınabilir bir DGX Spark olamaz. Nvidia, bulgu hakkında kamuya açık bir yorumda bulunmadı veya Linux desteği için bir zaman çizelgesi sinyali vermedi. Bu dizüstü bilgisayarlar ile masaüstü ünite arasında karar veren geliştiriciler için, donanım yazılımının mevcut durumu önemli bir uyarıdır; teknik özellikler sayfasında 2 GHz yazıyor, ancak Linux'ta bunu nasıl isteyeceğini yalnızca Windows biliyor.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →