OpenAI a achiziționat zeci de mii de Mac mini și Mac Studios în ultimele luni pentru a instrui agenții care folosesc computerul, a raportat The Information, o strategie de calcul neobișnuită care a ajutat la declanșarea unei creșteri a cererii determinate de AI pe care Apple însuși nu a văzut-o să vină.
Achizițiile în vrac, făcute pentru munca de învățare de întărire, au contribuit la lipsa de configurații Mac mini și Mac Studio, care au lăsat unele modele epuizate de luni de zile, conform rapoartelor acoperite de MacRumors și 24/7 Wall St. For more context on this story, see our ongoing latest AI developments.
De ce AI Labs doresc birouri în loc de rafturi GPU
Logica inversează înțelepciunea convențională a infrastructurii AI. Formarea unui model de frontieră necesită grupuri enorme de GPU-uri interconectate - o piață pe care Nvidia domină. Dar antrenarea agenților de utilizare a computerului, care sunt plasați în interiorul unui desktop, cărora li se spune să finalizeze o sarcină și se punctează pe rezultat, are un profil diferit: favorizează lățimea pe mii de mașini independente, mai degrabă decât puterea brută concentrată într-un singur supercomputer.
Aici devine utilă arhitectura de memorie unificată a Apple Silicon. Un Mac menține CPU-ul, GPU-ul și memoria lucrând din același pool, mai degrabă decât să se bazeze pe o placă grafică discretă și pe o memorie de sistem separată, un aranjament potrivit pentru a rula mii de sesiuni desktop paralele în care fiecare mașină funcționează independent. Este, de asemenea, din punct de vedere comercial, o modalitate mai ieftină de a scala formarea agenților decât închirierea de ore GPU rare și costisitoare pentru sarcinile de lucru la care GPU-urile nu sunt deosebit de bune.
OpenAI nu este singurul în abordare. Potrivit 24/7 Wall St.
Apple nu era pregătit pentru cumpărătorii Enterprise AI
Cererea l-a prins pe Apple din picioare. Potrivit rapoartelor The Information, companiei nu avea o echipă de inginerie dedicată pentru clienții de afaceri și personalul concentrat pe relațiile cu dezvoltatorii și nu avea nicio strategie de IA pentru întreprindere atunci când organizațiile au început să o abordeze pentru a cumpăra Mac-uri cu mii de noduri de calcul.
Unii clienți de întreprindere au cerut acces la infrastructura Private Cloud Compute a Apple – și au fost refuzați, a raportat MacRumors. Apple se bazează în schimb pe parteneri precum WebAI și Mount Thor, care oferă instrumente AI și medii de execuție construite pe hardware Apple.
Cu toate acestea, compania a curtat segmentul. În iunie, Apple a organizat un eveniment „Business at the Park” cu directori de la Ford, Disney și Anthropic, unde Mac mini ar fi fost „draga” spectacolului. Apple a promovat, de asemenea, capacitatea de a conecta mai multe studiouri Mac într-un singur sistem mai capabil pentru a rula modele AI de frontieră mari - o caracteristică destinată clienților de afaceri și dezvoltatorilor, mai degrabă decât consumatorilor obișnuiți.
O reîmprospătare neobișnuit de timpurie – și un lanț de aprovizionare încordat
Creșterea pare să fi îndoit calendarul produselor Apple. Apple lansează în mod normal noi modele de Mac mai aproape de octombrie sau noiembrie, dar săptămâna trecută a reîmprospătat Mac mini cu cipul său M6 și Mac Studio cu procesoare M5 Max și M5 Ultra - o lansare neobișnuit de timpurie pe care The Information o atribuie boom-ului condus de AI în vânzările Mac Studio și Mac mini.
Aceste noi mașini sunt îndreptate direct către acest public. După cum a descris AI Buzz Wire la lansare, M6 Mac mini și M5 Ultra Mac Studio împerechează primul procesor Apple de 2 nanometri cu prima sa arhitectură quad-die și până la 512 GB de memorie unificată - specificații care vizează rularea locală a modelelor AI mari și gruparea mașinilor împreună.
Aprovizionarea nu a ținut pasul. Creșterea cererii a coincis cu o lipsă globală de memorie, lăsând multe configurații de vârf epuizate de luni de zile. Unii clienți companii au apelat la alternative precum DGX Spark de la Nvidia, un desktop compact AI cu un factor de formă similar, când configurațiile de vârf ale Apple nu erau disponibile.
Ce înseamnă pentru Apple’s Numbers – și Nvidia’s Moat
Există bani reali în tendință, deși atribuirea necesită grijă. Apple a generat aproximativ 10,4 miliarde de dolari în venituri Mac în al treilea trimestru fiscal, în creștere cu aproximativ 29 la sută de la an la an, dar compania nu dezvăluie cât de mult a venit de la Mac mini-uri și studiouri, așa că fixarea creșterii direct pe laboratoarele de inteligență artificială ar fi prematură, după cum a menționat 24/7 Wall St.
Punctul mai strategic este ceea ce spune tendința despre următoarea fază a dezvoltării AI. Pe măsură ce inferența și formarea agenților se răspândesc dincolo de grupurile gigantice de preformare, laboratoarele de inteligență artificială cumpără calculatoare oriunde economia are sens - iar Apple a ajuns să vândă siliciu chiar companiilor care construiesc modelele, fără a cheltui un dolar pe centre de date AI proprii.
Asta nu face din Apple o nouă Nvidia. Mac-urile sunt completări ale clusterelor GPU pentru sarcini de lucru agentice, nu înlocuitori pentru puterea concentrată pe care o necesită preformarea masivă a modelului. Dar, având în vedere că agenții care folosesc computere sunt printre frontierele cu cea mai rapidă mișcare în AI, ideea că o parte semnificativă a pregătirii agenților se desfășoară acum pe mașini de pe birou – mai degrabă decât pe rafturile centrelor de date – modifică ipotezele despre cum arată infrastructura AI.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
