OpenAI ha acquistato decine di migliaia di Mac mini e Mac Studios negli ultimi mesi per formare agenti nell'uso del computer, ha riferito The Information, un'insolita strategia di calcolo che ha contribuito a innescare un'impennata della domanda guidata dall'intelligenza artificiale che Apple stessa non aveva previsto.
Gli acquisti in blocco, effettuati per il lavoro di apprendimento di rinforzo, hanno contribuito alla carenza di configurazioni di Mac mini e Mac Studio che hanno lasciato alcuni modelli esauriti per mesi, secondo un rapporto coperto da MacRumors e 24/7 Wall St. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Perché i laboratori di intelligenza artificiale preferiscono scrivanie anziché rack GPU
La logica inverte la saggezza convenzionale dell’infrastruttura IA. La formazione di un modello di frontiera richiede enormi cluster di GPU interconnesse: un mercato dominato da Nvidia. Ma addestrare gli agenti che utilizzano il computer, che vengono posizionati all’interno di un desktop, chiamati a completare un compito e valutati in base al risultato, ha un profilo diverso: favorisce l’ampiezza su migliaia di macchine indipendenti piuttosto che la potenza pura concentrata in un supercomputer.
È qui che l'architettura di memoria unificata di Apple diventa utile. Un Mac mantiene la CPU, la GPU e la memoria funzionanti dallo stesso pool invece di fare affidamento su una scheda grafica separata e una memoria di sistema separata, una soluzione particolarmente adatta per eseguire migliaia di sessioni desktop parallele in cui ciascuna macchina opera in modo indipendente. È anche, dal punto di vista commerciale, un modo più economico per scalare la formazione degli agenti rispetto al noleggio di ore di GPU, scarse e costose, per carichi di lavoro per i quali le GPU non sono particolarmente adatte.
OpenAI non è il solo ad adottare questo approccio. Secondo quanto riferito da Wall Street, Anthropic ha affittato la capacità di silicio di Apple tramite AWS di Amazon per carichi di lavoro simili.
Apple non era pronta per gli acquirenti di IA aziendali
La domanda colse Apple alla sprovvista. Secondo il rapporto di The Information, la società non disponeva di un team di ingegneri dedicato per i clienti aziendali e di personale concentrato sulle relazioni con gli sviluppatori, e non aveva una strategia di intelligenza artificiale aziendale quando le organizzazioni iniziarono ad avvicinarsi per acquistare Mac a migliaia come nodi di elaborazione.
Alcuni clienti aziendali hanno chiesto l'accesso all'infrastruttura Private Cloud Compute di Apple e sono stati rifiutati, ha riferito MacRumors. Apple si appoggia invece a partner come WebAI e Mount Thor, che forniscono strumenti di intelligenza artificiale e ambienti di esecuzione basati sull’hardware Apple.
L’azienda ha comunque corteggiato il segmento. A giugno, Apple ha tenuto un evento "Business at the Park" con dirigenti di Ford, Disney e Anthropic, dove il Mac mini sarebbe stato il "preferito" dello spettacolo. Apple ha inoltre promosso la possibilità di collegare più Mac Studios in un unico sistema più capace per l’esecuzione di grandi modelli di intelligenza artificiale di frontiera, una funzionalità rivolta ai clienti aziendali e agli sviluppatori piuttosto che ai consumatori comuni.
Un aggiornamento insolitamente anticipato e una catena di fornitura tesa
L'impennata sembra aver piegato il calendario dei prodotti Apple. Apple normalmente rilascia i nuovi modelli Mac più vicino a ottobre o novembre, ma la scorsa settimana ha aggiornato il Mac mini con il suo chip M6 e il Mac Studio con i processori M5 Max e M5 Ultra: un lancio insolitamente anticipato che The Information attribuisce al boom guidato dall'intelligenza artificiale nelle vendite di Mac Studio e Mac mini.
Quelle nuove macchine sono puntate direttamente a questo pubblico. Come AI Buzz Wire ha spiegato al momento del lancio, M6 Mac mini e M5 Ultra Mac Studio abbinano il primo processore da 2 nanometri di Apple con la sua prima architettura quad-die e fino a 512 GB di memoria unificata: specifiche volte a eseguire modelli AI di grandi dimensioni localmente e a raggruppare insieme le macchine.
L’offerta non ha tenuto il passo. Il picco della domanda ha coinciso con una carenza di memoria globale, lasciando molte configurazioni di fascia alta esaurite per mesi. Secondo quanto riferito, alcuni clienti aziendali si sono rivolti ad alternative come DGX Spark di Nvidia, un desktop AI compatto con un fattore di forma simile, quando le configurazioni di fascia alta di Apple non erano disponibili.
Cosa significa per i numeri di Apple e per il fossato di Nvidia
C'è denaro reale in questa tendenza, anche se l'attribuzione richiede attenzione. Apple ha generato circa 10,4 miliardi di dollari di entrate Mac nel suo terzo trimestre fiscale, in crescita di circa il 29% anno su anno, ma la società non rivela quanto provenga dai Mac mini e dagli Studios, quindi attribuire la crescita direttamente ai laboratori di intelligenza artificiale sarebbe prematuro, come ha notato 24/7 Wall St..
Il punto più strategico è ciò che dice la tendenza sulla prossima fase di sviluppo dell’IA. Man mano che l’inferenza e la formazione degli agenti si diffondono oltre i giganteschi cluster di pre-formazione, i laboratori di intelligenza artificiale stanno acquistando computer ovunque l’economia abbia senso – e Apple è incappata nella vendita di silicio alle stesse aziende che costruiscono i modelli, senza spendere un dollaro nei propri data center di intelligenza artificiale.
Ciò non rende Apple una nuova Nvidia. I Mac sono complementi ai cluster GPU per carichi di lavoro agenti, non sostituti della potenza concentrata richiesta dal massiccio pre-training dei modelli. Ma poiché gli agenti che utilizzano il computer sono tra le frontiere in più rapida evoluzione dell’intelligenza artificiale, l’idea che una quota significativa della formazione degli agenti ora venga eseguita su macchine desktop – piuttosto che su rack di data center – sta rimodellando le ipotesi su come dovrebbe essere l’infrastruttura AI.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
