Apple, похоже, готова значительно упростить запуск моделей искусственного интеллекта на Mac. Лидер Аарон Перрис обнаружил доказательства существования нового приложения Apple под названием Harbour, о котором 9to5Mac сообщил во вторник, что оно предназначено для превращения Mac в частный сервер вывода ИИ — машину, которая запускает модели ИИ с открытым весом полностью на локальном оборудовании, при этом никакие данные никогда не покидают здание.

Открытие, опубликованное Perris на X, дает наиболее четкое представление о том, как Apple планирует формализовать один из самых быстрорастущих вариантов использования Mac: энтузиасты и профессионалы покупают машины Mac Studio и Mac mini специально для локального запуска моделей искусственного интеллекта, а не платят за облачные сервисы. Подробнее об этой истории — в нашем больше статей об ИИ.

Чем на самом деле занимается Харбор

Согласно подробностям, опубликованным Перрисом, Harbour позволяет пользователям запускать модели открытого веса локально на процессоре Apple. Принцип конфиденциальности — прежде всего: ваши данные никогда не покидают ваше оборудование, и ничто не попадает в облако. Это позиционирует приложение как прямой ответ облачным инструментам искусственного интеллекта, которые доминируют сегодня на рынке, и соответствует давнему маркетинговому акценту Apple на обработку данных на устройстве.

Приложение также управляет моделями. Пользователи могут просматривать, загружать и загружать модели открытого веса из самого приложения. Как говорится в резюме Перриса, Харбор занимается управлением моделями, «чтобы вы могли сосредоточиться на работе, а не на настройке» — заметный контраст с инструментами командной строки и ручной настройкой, которые в настоящее время требуются для запуска локальных моделей.

Кластеризация компьютеров Mac через Thunderbolt 5

Самая поразительная особенность — кластеризация. Harbor может соединить два или более компьютеров Mac с поддержкой Thunderbolt 5 и объединить их объединенную память в единый ресурс вывода. Это означает, что пользователи могут запускать модели, которые превышают объем памяти любого отдельного компьютера, или обслуживать больше одновременных запросов в кластере, чем одна машина может обработать в одиночку.

Подход необычный. Большинство установок вывода искусственного интеллекта на нескольких машинах полагаются на высокоскоростные сетевые соединения и специализированное оборудование центров обработки данных. Реализация Apple опирается на Thunderbolt 5, интерфейс с высокой пропускной способностью, который теперь присутствует в профессиональной линейке Mac, чтобы объединить потребительские и полупотребительские машины в нечто, напоминающее небольшое устройство вывода.

Настройка за считанные минуты, а не часы

Apple явно нацелена на пользователей, которые никогда не прикасались к серверу. Harbour автоматически обнаруживает подключенные устройства через Thunderbolt 5, образуя кластер — подключите, запустите и работайте, без ручной настройки, без командной строки и без каких-либо знаний в области инфраструктуры, согласно просочившемуся описанию функции.

Эта простота использования является настоящим отличием приложения. Сегодня запуск локальных моделей ИИ обычно означает установку сред выполнения, загрузку весов из концентраторов моделей и настройку параметров памяти вручную. Harbour объединяет весь рабочий процесс в управляемый интерфейс потребительского уровня.

Частный просмотр под брендом Claris

По данным 9to5Mac, Harbour в настоящее время находится на частной предварительной версии под брендом Apple Claris, что позволяет предположить, что проект находится в рамках одной из дочерних организаций Apple, а не ее основных групп продуктов. В отчете отмечается, что вполне вероятно, что приложение будет доступно публике в ближайшие недели и месяцы, хотя Apple не подтвердила никаких планов выпуска.

Статус закрытой предварительной версии означает, что функции и брендинг могут измениться перед любым публичным выпуском. Но существование отточенного внутреннего приложения, предназначенного для локального вывода, дополненного кластеризацией, сигнализирует о том, что местный ИИ перешел из ниши любителей в стратегическую область продуктов внутри Apple.

Почему Mac становится рабочей лошадкой искусственного интеллекта

9to5Mac отмечает, что в этом году Mac стал значительно более популярным как из-за недорогих вариантов, таких как новый MacBook Neo, так и из-за привлекательности компьютеров в качестве инструментов для локального запуска моделей искусственного интеллекта на оборудовании Mac Studio и Mac mini.

Основная причина заключается в унифицированной архитектуре памяти Apple Silicon: поскольку ЦП и ГП используют один пул быстрой памяти, большие языковые модели можно загружать полностью и эффективно обслуживать на машинах, стоимость которых в разы ниже стоимости сопоставимых серверов с ГП. Это сделало мощные машины Mac Studio обычным явлением среди разработчиков, использующих дома более крупные модели с открытым весом.

Что это будет означать для разработчиков и небольших команд

Если Harbour будет поставляться так, как описано, практические последствия выходят за рамки удобства. Небольшие команды, которые сегодня арендуют облачные графические процессоры для обслуживания модели с открытым весом, вместо этого могли бы направить свои инструменты на кластер Mac на столе, храня данные внутри компании и платя только за оборудование, которое у них уже есть. Акцент приложения на обслуживании одновременных запросов предполагает, что Apple думает о рабочих нагрузках, когда несколько людей или сервисов используют одну и ту же модель, а не один пользователь, общающийся с одним.

Это также снижает барьер для экспериментов. Разработчику, заинтересованному в самостоятельном размещении модели с открытым весом, в настоящее время приходится собирать воедино время выполнения, квантованные веса и математические вычисления в памяти, прежде чем обслуживать один запрос. Управляемое приложение, которое обнаруживает оборудование, загружает модели и управляет кластером, устраняет почти все затраты на установку.

Конфиденциальность против облака

Если Harbour выйдет так, как описано, это даст Apple четкий ответ на вопрос, с которым боролись ее конкуренты: что предлагает основной производитель компьютеров людям, которым нужен мощный ИИ, не отправляя свои данные в чужой центр обработки данных? Оказывается, ответом может стать приложение, которое превратит машину, уже стоящую на вашем столе, в центр обработки данных.

На данный момент подробности остаются утечками, а не объявлениями, и Apple ничего публично не сказала. Но с точки зрения брендинга, набора функций и времени Harbour выглядит как один из наиболее интересных запусков продуктов искусственного интеллекта, за которыми стоит следить в ближайшие месяцы.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →