توسعه دهندگانی که امیدوارند از ویندوز در لپ تاپ های RTX Spark انویدیا فرار کنند، به دیوار برخورد کردند. یک بررسی عملی مفصل منتشر شده توسط MindStudio نشان داد که در حالی که لینوکس روی این ماشینهای متمرکز بر هوش مصنوعی نصب و اجرا میشود - با شتاب GPU، دسکتاپ کامل و تجهیزات جانبی کار - سیستمافزار مدیریت انرژی رمزگذاریشده، GPU را تقریباً به یک سوم سرعت کلاک ویندوز خود قفل میکند و استنتاج هوش مصنوعی محلی را از 65.1 در هر ثانیه بر روی مدل سختافزاری مشابه کاهش میدهد.
این فاصله تقریباً پنج برابری در ماشینهای دقیقی است که در توسعهدهندگان هوش مصنوعی به بازار عرضه میشوند. برای اطلاعات بیشتر در مورد این داستان، [آخرین پیشرفت های هوش مصنوعی] (https://aibuzzwire.news) را ببینید.
معیارها: یک مدل، چهار پیکربندی
این بررسی GPT-OSS-120B را، یک مدل باز با 120 میلیارد پارامتر که بر روی 128 گیگابایت حافظه یکپارچه لپتاپ، در چهار پیکربندی قرار میگیرد، محک زد:
- ویندوز در ARM (بومی): 65.4 توکن در ثانیه
- WSL (لینوکس داخل ویندوز): 65.1 توکن در ثانیه
- Nvidia DGX Spark (واحد رومیزی): 61 توکن در ثانیه
- لینوکس بومی (همان لپ تاپ): 13.9 توکن در ثانیه
الگوی چشمگیر است. WSL - لینوکس که به عنوان یک زیر سیستم در بالای ویندوز اجرا می شود - تقریباً دقیقاً با ویندوز بومی مطابقت دارد. DGX Spark کلاس دسکتاپ کمی کندتر از لپ تاپ ویندوز است که احتمالاً نمایانگر مشخصات حرارتی متفاوت آن است. اما لینوکس بومی روی همان لپ تاپ به سختی یک پنجم عملکرد ویندوز خود را مدیریت می کند.
سیستم عامل رمزگذاری شده علت اصلی است
مقصر درایور هسته منبع باز Nvidia نیست که کار می کند و شتاب CUDA را فراهم می کند. این یک مؤلفه فقط ویندوز به نام کنترلرها و چارچوب پلتفرم Nvidia است که انتقال انرژی بین CPU و GPU را مدیریت می کند. بررسی نشان داد که این سیستم عامل معادل لینوکس ندارد - و میز برق آن رمزگذاری شده است، بنابراین فقط درایور ویندوز می تواند آن را بخواند.
اثر عملی: هنگامی که لپ تاپ به برق دیواری وصل می شود، پردازنده گرافیکی به جای 2.2 گیگاهرتز پلاس که در ویندوز به آن می رسد، روی لینوکس روی 780 مگاهرتز قفل می شود. در باتری، تفاوت کاهش مییابد، اما عملکرد وصل شده دقیقاً زمانی است که انتظار اوج عملکرد استنتاج را دارید - و دقیقاً زمانی که لینوکس نمیتواند آن را ارائه دهد.
گوچا با تقسیم حافظه
سرعت ساعت تنها تنظیمات وابسته به ویندوز نیست. سیستم عامل لپ تاپ 96 گیگابایت از حافظه یکپارچه 128 گیگابایتی خود را به طور پیش فرض برای GPU ذخیره می کند و - دوباره - فقط ویندوز تنظیماتی را برای تغییر این تقسیم نمایش می دهد.
بازبین این را به سختی کشف کرد: پس از راه اندازی لینوکس، تنها 28 گیگابایت از 128 گیگابایت برای سیستم قابل مشاهده بود. برای رفع این مشکل، باید مجدداً به ویندوز بوت شود، ذخیره حافظه GPU به 4 گیگابایت کاهش یابد و سپس به لینوکس راهاندازی مجدد شود، که پس از آن میتوان 120 گیگابایت را مشاهده کرد. بدون آن انحراف، مدلهای بزرگی که باید به راحتی روی دستگاه قرار بگیرند، در لینوکس به سادگی دور از دسترس هستند.
نصب لینوکس هنوز یک ماجراجویی است
حتی رسیدن به پردازنده گرافیکی دریچه گاز نیز بی اهمیت بود. اولین تلاش این بررسی با Omarchy، یک توزیع مبتنی بر Arch که قبلاً از تراشه روی سختافزار Asus و Dell پشتیبانی میکرد، در MSI Prestige N16 Flip AI Plus با صفحهنمایش لرزان و ناپایدار در هنگام بوت شکست خورد. جابهجایی به دبیان مطمئنتر عمل کرد، اما راهحلهایی را میطلبد: نصبکننده نمیتوانست از طریق Wi-Fi متصل شود، به آداپتور USB اترنت نیاز دارد، و هسته وانیلی بدون پشتیبانی از صفحهکلید، پد لمسی یا GPU لپتاپ ارسال میشود.
بازگشت به Omarchy مشکل درایور را حل کرد، زیرا هسته آن درایور منبع باز Nvidia را بسته بندی می کند. در اوایل این فرآیند، خروجی HDMI نیز در حین نصب از کار کردن خودداری کرد - بازبینی کننده فقط برای دنبال کردن نصب کننده به دوربین خارجی روی صفحه داخلی لپ تاپ اشاره کرد. پس از پیکربندی، سیستم نهایی یک دسکتاپ کامل با فرکانس 4K و 120 هرتز با صدای کار، صفحه کلید، پد لمسی و شتاب CUDA اجرا کرد.
چرا این موضوع برای توسعه دهندگان هوش مصنوعی محلی اهمیت دارد
پلتفرم RTX Spark در ماشینهایی مانند MSI Prestige، Asus ProArt و Dell XPS عرضه میشود که همگی از طراحی گرافیکی مشابه واحد دسکتاپ DGX Spark انویدیا استفاده میکنند. اما یک تفاوت کلیدی وجود دارد: DGX Spark با لینوکس خود انویدیا عرضه می شود، در حالی که هر نوع لپ تاپ با ویندوز در ARM عرضه می شود. بسیاری از ابزارهای جدی محلی AI - vLLM، SGLang - ابتدا با لینوکس ساخته شده اند، دقیقاً به همین دلیل است که توسعه دهندگانی که این ماشین ها را می خرند، لینوکس را روی آنها می خواهند.
این بررسی نتیجه میگیرد که امروزه WSL پاسخ عملی است: پشته درایور ویندوز را میچرخاند، تقویت کامل GPU را چه به برق و چه با باتری شارژ کند، حفظ میکند و همچنان ابزارهای هوش مصنوعی لینوکس را اجرا میکند. لینوکس بومی همچنان یک پروژه سرگرمی است - عملکردی، اما بیشتر عملکرد تبلیغ شده سخت افزار را روی میز باقی می گذارد.
یک اصلاح واقعی به این بستگی دارد که Nvidia منطق مدیریت انرژی کنترلر پلتفرم را به درایور لینوکس خود منتقل کند. بررسی اشاره می کند تا زمانی که این اتفاق نیفتد، لپ تاپ نمی تواند به آن چیزی تبدیل شود که خریداران می خواهند: یک DGX Spark قابل حمل. انویدیا به طور عمومی در مورد این یافته اظهار نظر نکرده یا جدول زمانی برای پشتیبانی لینوکس اعلام نکرده است. برای توسعهدهندگانی که بین این لپتاپها و واحد دسکتاپ تصمیم میگیرند، وضعیت فعلی سفتافزار یک اخطار مادی است – برگه مشخصات میگوید 2 گیگاهرتز است، اما در لینوکس، فقط ویندوز میداند که چگونه آن را درخواست کند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →