Il CEO di OpenAI, Sam Altman, è entrato in uno dei dibattiti più accesi nella comunità dell'intelligenza artificiale, sostenendo che l'esecuzione di modelli di intelligenza artificiale su personal computer rappresenta un cattivo utilizzo della limitata disponibilità di memoria mondiale. Intervenendo sul podcast Cheeky Pint, Altman ha affermato che è "piuttosto terribile" dal punto di vista dell'allocazione globale per le persone tenere DRAM che rimane inattiva per gran parte della giornata e che la memoria è meglio distribuita nei data center cloud che funzionano al massimo utilizzo.

I commenti, riportati da The Verge, arrivano nel mezzo di una carenza di memoria globale che ha spinto al rialzo i prezzi della RAM e che alcuni critici attribuiscono in parte alla stessa costruzione del data center che Altman sta sostenendo. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.

Ciò che Altman ha realmente detto

Alla domanda sulle carenze della catena di approvvigionamento, inclusa l’attuale carenza di RAM, Altman ha respinto l’idea che i modelli open source consentiranno alle persone di bypassare completamente il cloud.

"Molte persone vogliono l'inferenza locale. E in qualche modo presumono che il problema sia risolto ora perché avremo modelli open source, saremo in grado di eseguirli sui nostri computer e quindi non avremo bisogno di tutte le cose nel data center", ha detto Altman, secondo The Verge.

"Ma dal punto di vista dell'allocazione globale, in realtà, è piuttosto terribile che tutti abbiano una quantità limitata di DRAM a livello mondiale depositata nei propri computer e utilizzata il cinque percento delle volte. Vuoi il massimo utilizzo nel cloud se stai cercando di affrontare questo ambiente con risorse limitate. E in qualche modo l'intuizione di tutti - molte persone è l'opposto di quello."

La crisi di memoria dietro i commenti

L'argomentazione di Altman arriva in un momento in cui la memoria è diventata una delle risorse tecnologiche più contestate. Samsung e SK Hynix hanno firmato accordi a lungo termine con operatori cloud e progetti come Stargate di OpenAI che hanno riservato gran parte della produzione mondiale di RAM per i prossimi anni, ha riferito The Verge. Questa contrazione è uno dei motivi per cui laptop, telefoni e altri dispositivi consumer stanno diventando più costosi in questo momento.

La portata della crisi non è in discussione. AI Buzz Wire aveva precedentemente riferito che la capacità di memoria fino al 2027 sarebbe esaurita, una situazione che alcuni nel settore hanno soprannominato "RAMageddon". In questo contesto, ogni gigabyte di DRAM presente in una macchina consumer è, nella visione di Altman, un gigabyte che non serve carichi di lavoro di intelligenza artificiale su larga scala.

I giocatori e la comunità locale dell'intelligenza artificiale si oppongono

Le osservazioni non si sono svolte in silenzio. Tom's Hardware ha riassunto la posizione senza mezzi termini: "Il CEO di OpenAI dice che è 'piuttosto terribile' che il tuo PC abbia RAM." IGN e Shacknews hanno sottolineato la stessa citazione, mentre PC Gamer ha inquadrato l'episodio mentre Altman si lamentava dell'inefficienza di una crisi di fornitura di memoria che la follia di acquisti di OpenAI ha contribuito a creare. Il futurismo è andato oltre, caratterizzando i commenti come una tesi secondo cui le persone non dovrebbero affatto possedere computer.

Parte dell'attrito è per definizione. The Verge ha osservato che non è chiaro se Altman stesse parlando di PC da gioco o di macchine per sviluppatori come Surface RTX Spark Dev Box o il nuovo MacBook Pro touchscreen, ma per le persone che acquistano quell'hardware, il risultato è lo stesso: la memoria è scarsa, i prezzi stanno aumentando e il CEO di intelligenza artificiale più importante del mondo sembra considerare i propri acquisti come un'errata allocazione.

Per la comunità di inferenza locale - hobbisti, utenti attenti alla privacy e sviluppatori che eseguono modelli open-weight sulle proprie macchine - i commenti sembrano sprezzanti sul motivo per cui eseguono modelli localmente in primo luogo. Latenza, disponibilità offline, libertà dai prezzi di abbonamento e controllo sui dati sensibili fanno tutti parte del fascino e nessuno di questi vantaggi viene trasferito a un data center, per quanto utilizzato in modo efficiente.

Utilizzo contro proprietà

Dietro la tesi di Altman c’è una reale economia. L'hardware del data center funziona quasi ininterrottamente, distribuendo i costi e l'allocazione della memoria su milioni di richieste, mentre un PC domestico utilizza la maggior parte della memoria a raffiche. In un mercato realmente limitato dall’offerta, l’efficienza dell’allocazione è una preoccupazione legittima – e Altman non ha torto nel dire che l’utilizzo aggregato è molto inferiore sui desktop che nel cloud.

Ma l’argomento ha un ovvio punto cieco che i critici si sono affrettati a sottolineare: OpenAI non è un osservatore neutrale di dove dovrebbe andare la DRAM mondiale. Il progetto Stargate dell'azienda e gli impegni relativi ai data center sono tra le forze che assorbono in primo luogo la fornitura di memoria, come ha sottolineato la copertura di PC Gamer. Quando il dirigente la cui azienda consuma gran parte della fornitura mondiale di memoria sostiene che i consumatori dovrebbero rinunciare alla propria, lo scetticismo riguardo a tale quadro è una risposta razionale.

C’è anche una divisione filosofica in gioco che ha definito il movimento locale dell’intelligenza artificiale sin dal suo inizio. Il modello cloud tratta l'informatica come un servizio da affittare; il modello locale lo tratta come una proprietà da possedere. I commenti di Altman suggeriscono che egli consideri quest'ultima come un'inefficienza da eliminare. Gran parte della comunità lo vede come un’assicurazione proprio contro il tipo di centralizzazione che sta descrivendo.

Cosa significa andare avanti

Niente di tutto ciò cambia la fisica alla base della carenza. I produttori di memoria sono esauriti, i prezzi stanno salendo e i data center AI consumeranno la stragrande maggioranza della nuova produzione DRAM e HBM nel prossimo futuro, indipendentemente dal fatto che i giocatori lo approvino o meno.

Ciò che l’episodio illustra è come le richieste di risorse del settore dell’intelligenza artificiale stanno iniziando a scontrarsi con le aspettative dei consumatori in modi visibili: prima nei prezzi dei dispositivi e ora nelle discussioni su a chi appartiene effettivamente la memoria. La posizione di Altman è chiara: la DRAM limitata a livello mondiale dovrebbe funzionare nei data center. Un segmento crescente di acquirenti di PC, se la reazione ai suoi commenti è indicativa, ha una risposta diversa.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →