OpenAI zakoupila v posledních měsících desítky tisíc počítačů Mac mini a Mac Studios, aby vyškolili agenty pro používání počítačů, uvedl The Information, což je neobvyklá výpočetní strategie, která pomohla vyvolat nárůst poptávky řízený umělou inteligencí, který Apple sám neviděl.

Hromadné nákupy, které byly provedeny za účelem posilování učení, přispěly k nedostatku konfigurací Mac mini a Mac Studio, v důsledku čehož některé modely nebyly na skladě celé měsíce, podle zpráv pokrytých MacRumors a 24/7 Wall St. For more context on this story, see our ongoing latest AI developments.

Proč AI Labs chtějí stoly místo GPU racků

Logika převrací konvenční moudrost infrastruktury AI. Trénink hraničního modelu vyžaduje obrovské shluky vzájemně propojených GPU – trhu, kterému Nvidia dominuje. Ale trénování počítačových agentů, kteří jsou umístěni na ploše, je jim řečeno, aby dokončili úkol, a bodovali za výsledek, má jiný profil: upřednostňuje šířku mezi tisíci nezávislých strojů spíše než surový výkon soustředěný v jednom superpočítači.

To je místo, kde se architektura sjednocené paměti Apple křemíku stává užitečnou. Mac udržuje CPU, GPU a paměť v provozu ze stejného fondu, místo aby se spoléhal na samostatnou grafickou kartu a samostatnou systémovou paměť, což je uspořádání, které se dobře hodí pro provozování tisíců paralelních desktopových relací, kde každý počítač pracuje nezávisle. Je to také, komerčně řečeno, levnější způsob, jak škálovat školení agentů, než pronajímání vzácných a drahých hodin GPU pro pracovní zátěž, na kterou GPU nejsou jedinečně dobré.

OpenAI není v tomto přístupu sama. Společnost Anthropic si údajně pronajala křemíkovou kapacitu společnosti Apple prostřednictvím AWS společnosti Amazon pro podobné pracovní zatížení, podle 24/7 Wall St.

Apple nebyl připraven na zákazníky podnikové AI

Poptávka Apple zaskočila. Podle zpráv The Information společnost postrádala specializovaný technický tým pro firemní zákazníky a zaměstnance zaměřené na vztahy s vývojáři a neměla žádnou podnikovou strategii umělé inteligence, když se k ní organizace začaly obracet, aby kupovaly Macy po tisících jako výpočetní uzly.

Někteří firemní zákazníci požádali o přístup k infrastruktuře Private Cloud Compute společnosti Apple – a byli odmítnuti, uvedl MacRumors. Apple se místo toho opírá o partnery, jako jsou WebAI a Mount Thor, kteří poskytují nástrojová a spouštěcí prostředí AI postavená na hardwaru Apple.

Společnost se přesto segmentu dvořila. V červnu Apple uspořádal akci „Business at the Park“, na níž byli představitelé Ford, Disney a Anthropic, kde byl Mac mini údajně „miláček“ show. Apple také propagoval možnost propojit více Mac Studios do jediného, ​​schopnějšího systému pro provozování velkých hraničních modelů umělé inteligence – funkce zaměřená spíše na obchodní a vývojářské zákazníky než na běžné spotřebitele.

Neobvykle brzké obnovení — a napjatý dodavatelský řetězec

Zdá se, že nárůst ohnul produktový kalendář Applu. Apple běžně vydává nové modely Maců blíže k říjnu nebo listopadu, ale minulý týden obnovil Mac mini s čipem M6 a Mac Studio s procesory M5 Max a M5 Ultra – neobvykle brzké uvedení, které The Information připisuje rozmachu prodejů Mac Studio a Mac mini řízené umělou inteligencí.

Tyto nové stroje jsou namířeny přímo na toto publikum. Jak AI Buzz Wire pokryla při uvedení na trh, M6 Mac mini a M5 Ultra Mac Studio spárují první 2nanometrový procesor Apple s první architekturou quad-die a až 512 GB sjednocené paměti – specifikace zaměřené na místní spouštění velkých modelů AI a sdružování počítačů dohromady.

Nabídka neudržela tempo. Prudký nárůst poptávky se shodoval s globálním nedostatkem paměti, takže mnoho konfigurací vyšší třídy bylo na měsíce mimo sklad. Někteří podnikoví zákazníci se údajně obrátili na alternativy, jako je DGX Spark od Nvidie, kompaktní desktop s umělou inteligencí s podobným tvarovým faktorem, když byly špičkové konfigurace Apple nedostupné.

Co to znamená pro čísla Applu — a příkop Nvidie

V trendu jsou skutečné peníze, i když atribuce vyžaduje opatrnost. Apple vygeneroval ve svém fiskálním třetím čtvrtletí zhruba 10,4 miliardy dolarů na tržbách z Maců, což je meziročně o 29 procent více, ale společnost nezveřejňuje, kolik pocházelo z Mac minis a Studios, takže připnout růst přímo na laboratoře AI by bylo předčasné, jak poznamenal 24/7 Wall St.

Strategickejším bodem je to, co trend říká o další fázi budování AI. S tím, jak se inference a školení agentů rozšiřují mimo obří klastry pro předškolení, laboratoře AI nakupují výpočetní techniku ​​všude tam, kde má ekonomika smysl – a Apple narazil na prodej křemíku právě těm společnostem, které vyrábějí modely, aniž by utratil dolar za vlastní datová centra AI.

To z Applu nedělá novou Nvidii. Počítače Mac jsou doplňky ke clusterům GPU pro agentní pracovní zátěže, nikoli náhrady za koncentrovanou koňskou sílu, kterou vyžaduje příprava masivního modelu. Ale vzhledem k tomu, že agenti využívající počítače patří mezi nejrychleji se posouvající hranice v AI, myšlenka, že smysluplný podíl školení agentů nyní probíhá na stolních počítačích – spíše než na stojanech datových center – mění předpoklady o tom, jak vypadá infrastruktura AI.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →