За останні місяці OpenAI придбала десятки тисяч комп’ютерів Mac mini і Mac Studios, щоб навчити агентів використовувати комп’ютери, повідомляє The Information. Це незвичайна обчислювальна стратегія, яка допомогла викликати сплеск попиту на штучний інтелект, якого сама Apple не очікувала.
Відповідно до звітів, охоплених MacRumors і 24/7 Wall St, масові закупівлі, здійснені для закріпленої навчальної роботи, сприяли дефіциту конфігурацій Mac mini і Mac Studio, через що деякі моделі були відсутні в наявності на місяці. For more context on this story, see our ongoing latest AI developments.
Чому лабораторії штучного інтелекту хочуть столи замість стійок для GPU
Логіка перевертає звичайну мудрість інфраструктури ШІ. Навчання граничної моделі вимагає величезних кластерів взаємопов’язаних графічних процесорів — ринку, на якому домінує Nvidia. Але навчання агентів використання комп’ютера, які розміщуються на робочому столі, мають виконати завдання та оцінюються за результат, має інший профіль: воно надає перевагу охопленню тисячами незалежних машин, а не сирим силам, зосередженим в одному суперкомп’ютері.
Саме тут стає корисною архітектура уніфікованої пам’яті Apple silicon. Mac забезпечує роботу центрального процесора, графічного процесора та пам’яті з одного пулу, а не покладається на дискретну графічну карту та окрему системну пам’ять, що добре підходить для запуску тисяч паралельних робочих столів, де кожна машина працює незалежно. Крім того, комерційно кажучи, це дешевший спосіб масштабувати навчання агентів, ніж оренда дефіцитних і дорогих годин GPU для робочих навантажень, з якими GPU не справляються виключно добре.
OpenAI не єдиний у цьому підході. Згідно з повідомленням 24/7 Wall St, Anthropic орендувала силиконові потужності Apple через AWS Amazon для подібних робочих навантажень.
Apple не була готова до корпоративних покупців ШІ
Попит застав Apple з ніг на ноги. Згідно зі звітом The Information, компанії не вистачало спеціальної команди інженерів для бізнес-клієнтів і персоналу, зосередженого на відносинах з розробниками, і не було корпоративної стратегії ШІ, коли організації почали звертатися до неї, щоб купувати Mac тисячами як обчислювальні вузли.
Деякі корпоративні клієнти попросили отримати доступ до інфраструктури Apple Private Cloud Compute — і їм було відмовлено, повідомляє MacRumors. Натомість Apple покладається на таких партнерів, як WebAI і Mount Thor, які надають інструменти ШІ та середовища виконання, створені на апаратному забезпеченні Apple.
Тим не менш, компанія залицяється в цей сегмент. У червні Apple провела захід «Бізнес у парку» за участю керівників компаній Ford, Disney і Anthropic, де, як повідомляється, Mac mini був «улюбленцем» шоу. Apple також просувала можливість об’єднувати кілька Mac Studios в єдину більш потужну систему для запуску великих передових моделей штучного інтелекту — функція, спрямована на бізнес-клієнтів і розробників, а не на звичайних споживачів.
Незвичайно раннє оновлення — і напружений ланцюжок постачання
Здається, цей сплеск змінив календар продуктів Apple. Зазвичай Apple випускає нові моделі Mac ближче до жовтня або листопада, але минулого тижня вона оновила Mac mini з чіпом M6 і Mac Studio з процесорами M5 Max і M5 Ultra — незвичайно ранній запуск, який The Information пояснює бумом продажів Mac Studio і Mac mini на основі штучного інтелекту.
Ці нові машини спрямовані прямо на цю аудиторію. Як повідомляв AI Buzz Wire під час запуску, M6 Mac mini і M5 Ultra Mac Studio поєднують перший 2-нанометровий процесор Apple з його першою архітектурою з чотирма кристалами та до 512 ГБ уніфікованої пам’яті — специфікації, спрямовані на локальну роботу великих моделей штучного інтелекту та кластеризацію машин.
Постачання не встигає. Підвищення попиту співпало з глобальним дефіцитом пам’яті, через що багато конфігурацій вищого класу місяцями не було в наявності. Повідомляється, що деякі корпоративні клієнти звернулися до альтернатив, таких як Nvidia DGX Spark, компактний настільний комп’ютер зі штучним інтелектом у подібному форм-факторі, коли високоякісні конфігурації Apple були недоступні.
Що це означає для чисел Apple — і рів Nvidia
У тренді реальні гроші, хоча атрибуція вимагає обережності. У третьому фінансовому кварталі Apple отримала приблизно 10,4 мільярда доларів доходу від Mac, що на 29% більше, ніж у минулому році, але компанія не розголошує, яку суму принесли Mac mini і Studios, тому прив’язувати зростання безпосередньо до лабораторій штучного інтелекту було б передчасно, як зазначає 24/7 Wall St.
Більш стратегічним моментом є те, що тенденція говорить про наступний етап створення ШІ. У міру того як висновок і навчання агентів поширюються за межі гігантських кластерів попереднього навчання, лабораторії штучного інтелекту купують обчислення скрізь, де це має сенс з економіки — і Apple випадково продає кремнієві компоненти тим самим компаніям, які створюють моделі, не витрачаючи ні долара на власні центри обробки даних ШІ.
Це не робить Apple новою Nvidia. Комп’ютери Mac є доповненням до кластерів GPU для агентських робочих навантажень, а не заміною концентрованої потужності, якої вимагає попереднє навчання моделі. Але з огляду на те, що агенти, які використовують комп’ютери, є одними з найшвидше рухаються кордонів ШІ, ідея про те, що значна частка навчання агентів тепер проводиться на настільних машинах, а не на стійках центру обробки даних, змінює припущення про те, як виглядає інфраструктура ШІ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →