به نظر می رسد اپل آماده است تا مدل های هوش مصنوعی در حال اجرا در مک را به طور چشمگیری ساده تر کند. افشاگر آرون پریس شواهدی از یک برنامه جدید اپل به نام Harbor را کشف کرده است که 9to5Mac در روز سه شنبه گزارش داد که برای تبدیل مک به یک سرور استنتاج هوش مصنوعی خصوصی طراحی شده است - ماشینی که مدل های هوش مصنوعی وزن باز را کاملاً بر روی سخت افزار محلی اجرا می کند و هیچ داده ای از ساختمان خارج نمی شود.

این کشف که توسط Perris on X منتشر شده است، واضح‌ترین نگاهی را ارائه می‌دهد که چگونه اپل قصد دارد یکی از موارد استفاده مک را که سریع‌ترین رشد را در حال رشد است، رسمی کند: علاقه‌مندان و متخصصانی که ماشین‌های مک استودیو و مک مینی را به‌طور خاص برای اجرای مدل‌های هوش مصنوعی به‌جای پرداخت هزینه برای خدمات ابری خریداری می‌کنند. For more context on this story, see our ongoing AI industry coverage.

آنچه هاربر در واقع انجام می دهد

با توجه به جزئیات منتشر شده پریس، هاربر به کاربران اجازه می دهد مدل های وزن باز را به صورت محلی روی سیلیکون اپل اجرا کنند. مقدمه ابتدا حریم خصوصی است: داده‌های شما هرگز از سخت‌افزار شما خارج نمی‌شوند و چیزی به ابر نمی‌رسد. این اپلیکیشن را به‌عنوان پاسخی مستقیم به ابزارهای هوش مصنوعی وابسته به ابری که امروزه بر بازار تسلط دارند، قرار می‌دهد و با تاکید بازاریابی طولانی‌مدت اپل بر پردازش روی دستگاه همسو می‌شود.

این برنامه همچنین مدیریت مدل را انجام می دهد. کاربران می توانند مدل های با وزن باز را از داخل خود برنامه مرور، دانلود و بارگیری کنند. همانطور که خلاصه Perris بیان می کند، هاربر مدیریت مدل را مدیریت می کند "بنابراین شما می توانید روی کار تمرکز کنید، نه تنظیم" - تضاد قابل توجهی با ابزارهای خط فرمان و پیکربندی دستی که در حال حاضر مدل های محلی در حال اجرا نیاز دارند.

خوشه‌بندی مک‌ها بر روی Thunderbolt 5

بارزترین ویژگی خوشه بندی است. Harbor می تواند دو یا چند کامپیوتر مک با قابلیت Thunderbolt 5 را به هم متصل کند و حافظه یکپارچه آنها را در یک منبع استنتاج واحد جمع کند. این بدان معناست که کاربران می‌توانند مدل‌هایی را اجرا کنند که بیشتر از آن چیزی باشد که هر رایانه‌ای می‌تواند در حافظه خود نگه دارد، یا درخواست‌های همزمان بیشتری را در سراسر خوشه ارائه کنند تا اینکه یک ماشین به تنهایی از عهده آن برآید.

رویکرد غیرعادی است. اکثر تنظیمات استنتاج هوش مصنوعی چند ماشینی به اتصالات شبکه پرسرعت و سخت افزار مرکز داده تخصصی متکی هستند. پیاده‌سازی اپل بر Thunderbolt 5 تکیه دارد، رابط پهنای باند بالا که اکنون در سری مک های حرفه‌ای آن وجود دارد، تا ماشین‌های مصرف‌کننده و فروشنده را به چیزی شبیه به یک ابزار استنتاج کوچک تبدیل کند.

راه اندازی در چند دقیقه، نه ساعت

اپل به وضوح کاربرانی را هدف قرار می دهد که هرگز به سروری دست نزده اند. طبق توضیحات ویژگی فاش شده، Harbor به طور خودکار دستگاه های متصل را از طریق Thunderbolt 5 شناسایی می کند تا یک خوشه تشکیل دهد - وصل کنید، شروع کنید و در حال اجرا هستید، بدون پیکربندی دستی، بدون خط فرمان، و بدون نیاز به تخصص زیرساخت.

این سهولت استفاده وجه تمایز واقعی برنامه است. امروزه اجرای مدل‌های هوش مصنوعی محلی معمولاً به معنای نصب زمان اجرا، دانلود وزنه‌ها از هاب مدل و تنظیم تنظیمات حافظه با دست است. Harbor کل گردش کار را در یک رابط هدایت‌شده و درجه یک مصرف‌کننده پیچیده می‌کند.

پیش‌نمایش خصوصی تحت برند کلاریس

به گفته 9to5Mac، هاربر در حال حاضر در یک پیش نمایش خصوصی با نام تجاری Claris اپل قرار دارد و نشان می دهد که این پروژه در یکی از سازمان های تابعه اپل به جای گروه های اصلی محصول آن قرار دارد. این گزارش اشاره می‌کند که به نظر می‌رسد این اپلیکیشن در هفته‌ها و ماه‌های آینده برای عموم عرضه خواهد شد، اگرچه اپل هیچ برنامه‌ای را برای انتشار تایید نکرده است.

وضعیت پیش‌نمایش خصوصی به این معنی است که ویژگی‌ها و نام تجاری می‌توانند قبل از انتشار عمومی تغییر کنند. اما وجود یک برنامه داخلی صیقلی که به استنتاج محلی اختصاص داده شده است - کامل با خوشه بندی - نشان می دهد که هوش مصنوعی محلی از جایگاه سرگرمی به حوزه محصول استراتژیک در اپل منتقل شده است.

چرا مک در حال تبدیل شدن به یک اسب کاری هوش مصنوعی است

9to5Mac خاطرنشان می‌کند که Mac امسال بسیار محبوب‌تر شده است، هم به دلیل گزینه‌های مقرون‌به‌صرفه مانند MacBook Neo جدید و هم به دلیل جذابیت ماشین‌ها به عنوان ابزاری برای اجرای مدل‌های AI به صورت محلی روی سخت‌افزار Mac Studio و Mac mini.

معماری حافظه یکپارچه اپل دلیل اصلی آن است: از آنجایی که CPU و GPU دارای حافظه سریع مشترک هستند، مدل‌های زبان بزرگ را می‌توان به طور کامل بارگیری کرد و به طور موثر در ماشین‌هایی که هزینه آن‌ها کسری از سرورهای GPU قابل مقایسه است، استفاده کرد. این امر باعث شده است که ماشین‌های مک استودیو حداکثر به یک منظره رایج در میان توسعه‌دهندگانی تبدیل شود که مدل‌های بزرگ‌تر با وزن باز را در خانه اجرا می‌کنند.

چه معنایی برای توسعه دهندگان و تیم های کوچک دارد

اگر هاربر همانطور که توضیح داده شد کشتی می‌گیرد، پیامدهای عملی فراتر از راحتی است. تیم‌های کوچکی که امروزه پردازنده‌های گرافیکی ابری را برای ارائه مدلی با وزن باز اجاره می‌کنند، می‌توانند به جای آن ابزارهای خود را به سمت یک کلاستر مک روی میز قرار دهند، داده‌ها را در خانه نگه‌دارند و فقط برای سخت‌افزاری که از قبل دارند، پول بپردازند. تاکید این برنامه بر ارائه درخواست‌های همزمان نشان می‌دهد که اپل به جای گپ زدن یک کاربر با یک کاربر، به حجم کاری فکر می‌کند که در آن چندین نفر یا خدمات از یک مدل استفاده می‌کنند.

همچنین مانع آزمایش را کاهش می دهد. یک توسعه‌دهنده کنجکاو در مورد میزبانی خود یک مدل با وزن باز، در حال حاضر باید زمان‌های اجرا، وزن‌های کوانتیزه‌شده و ریاضیات حافظه را قبل از ارائه یک درخواست با هم ترکیب کند. یک برنامه هدایت‌شده که سخت‌افزار را شناسایی می‌کند، مدل‌ها را دانلود می‌کند و کلاستر را مدیریت می‌کند، تقریباً تمام هزینه‌های راه‌اندازی را حذف می‌کند.

بازی حریم خصوصی در برابر ابر

اگر هاربر همانطور که توضیح داده شد ارسال شود، به اپل پاسخ روشنی به سوالی می دهد که رقبایش با آن دست و پنجه نرم کرده اند: یک سازنده رایانه اصلی به افرادی که خواهان هوش مصنوعی توانمند هستند بدون ارسال داده های خود به مرکز داده دیگران، چه چیزی را ارائه می دهد؟ به نظر می رسد که پاسخ ممکن است برنامه ای باشد که دستگاه را که روی میز شما قرار دارد به مرکز داده تبدیل می کند.

در حال حاضر، جزئیات به جای اعلامیه، لو رفته و اپل چیزی علنی نگفته است. اما بین نام تجاری، مجموعه ویژگی‌ها و زمان‌بندی، به نظر می‌رسد هاربر یکی از جالب‌ترین محصولات هوش مصنوعی معرفی شده در ماه‌های آینده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →