Meta ha alzato il sipario sull'MTIA 400, il suo primo acceleratore personalizzato mirato direttamente all'addestramento di modelli linguistici di grandi dimensioni, con una svolta insolita. Il chip, presentato in dettaglio questa settimana alla conferenza annuale sui semiconduttori Hot Chips, sosterrà anche i carichi di lavoro dei consiglieri di deep learning che servono gli annunci pubblicitari che finanziano l'intera ambizione di IA di Meta.
Il Register, che per primo ha riportato le informazioni tecniche complete, ha definito il progetto una "doppia personalità": un chip per l'addestramento di frontiera da un lato, un motore per la pubblicazione di annunci pubblicitari dall'altro. È il segno più chiaro che Meta intende gestire il futuro dell’intelligenza artificiale sul proprio silicio. Per ulteriori informazioni sugli ultimi sviluppi dell'intelligenza artificiale che stanno plasmando il settore dei chip, segui AI Buzz Wire.
Perché addestrare l'intelligenza artificiale e pubblicare annunci sullo stesso chip?
La maggior parte delle aziende che creano acceleratori IA personalizzati iniziano con l'inferenza. I cluster sono più piccoli, i chip sono più semplici e il lavoro è ben compreso. Meta sta contrastando questa tendenza concentrandosi innanzitutto sulla formazione LLM, il carico di lavoro a maggiore intensità di calcolo del settore, che spesso richiede decine o centinaia di migliaia di acceleratori.
Il compromesso è il secondo carico di lavoro. L'inferenza DLRM, il modello di raccomandazione del deep learning che decide quali annunci e post vedono gli utenti, è prevalentemente legata alla memoria piuttosto che al calcolo, il che significa che gran parte della potenza di fuoco di addestramento del chip rimane inattiva durante la pubblicazione degli annunci. Ma con Meta che brucia decine di miliardi di dollari in termini di calcolo, avere un chip che svolge il doppio compito è una copertura pragmatica, soprattutto quando uno dei due casi d’uso genera direttamente entrate.
All'interno dell'MTIA 400: chiplet da 3 nm e IP Broadcom
Secondo la presentazione di Hot Chips di Meta, analizzata da The Register e ServeTheHome:
- Architettura multi-die: due die di elaborazione, due die di I/O e un die SoC che gestisce la connettività host e l'orchestrazione del carico di lavoro
- Nodo di processo: I chiplet di calcolo sono basati sulla tecnologia di processo a 3 nm, presumibilmente di TSMC
- Calcolo: una griglia 6x8 di elementi di elaborazione per chiplet, che fornisce 12 petaFLOPS combinati di calcolo MXFP4 a 1,7 GHz
- Memoria: Otto stack HBM3e da 36 GB: 288 GB in totale con circa 9,2 TB/s di larghezza di banda
- Interconnessione: 1,2 TB/s di larghezza di banda chip-to-chip su RDMA, probabilmente Ethernet dato il coinvolgimento di Broadcom
Le impronte digitali di Broadcom sono ovunque. Il Register rileva che l'acceleratore è stato quasi certamente costruito utilizzando l'IP XPU del progettista del chip: una scelta pragmatica che consente a Meta di concentrarsi sulla differenziazione esternalizzando le parti poco affascinanti della progettazione dell'acceleratore.
Come si confronta con Nvidia e AMD
Il quadro della performance è sfumato. Con la precisione più elevata comunemente utilizzata per l'allenamento, l'MTIA 400 è circa il 20% più veloce degli acceleratori Blackwell di punta di Nvidia pur assorbendo una potenza simile. La sua larghezza di banda della memoria è migliore di circa il 15% rispetto ai componenti di Nvidia e AMD della generazione precedente.
Ma rispetto alla generazione più recente, il divario si allarga notevolmente: l'MTIA 400 è tra 3 e 3,3 volte più lento del Rubin di Nvidia e dell'Instinct MI455X di AMD, rispettivamente, e offre meno della metà della larghezza di banda di memoria di quelle nuove GPU. Questo deficit è proprio il motivo per cui Meta sta posizionando la parte come un chip di addestramento piuttosto che come un chip di inferenza: per servire i token, ha opzioni molto più veloci.
A livello di sistema, la somiglianza con i rack standard del settore è sorprendente. Ogni blade di elaborazione abbina quattro acceleratori MTIA 400 con uno switch PCIe, una CPU x86 e una scheda di rete scalabile. Un rack completo contiene 18 blade di elaborazione e otto switch blade: 72 acceleratori in un singolo dominio unificato, una configurazione che rispecchia i design dei rack NVL72 di Nvidia e Helios di AMD. Le diapositive di Meta promettono "un ridimensionamento dell'acceleratore multi-mille" senza specificare i massimali dei cluster.
La tabella di marcia: MTIA 450 l'anno prossimo
Il MTIA 400 non è la fine della linea. Meta ha rivelato a marzo che prevede una cadenza di rilascio di sei mesi su quattro nuove generazioni di MTIA, e la prossima tappa sarà MTIA 450, una variante ottimizzata per l'inferenza che dovrebbe raddoppiare la larghezza di banda della memoria, presumibilmente adottando HBM4. La produzione di questo chip è prevista per il prossimo anno e dovrebbe essere particolarmente adatta all'esecuzione di carichi di lavoro di raccomandazioni basati su LLM.
Nonostante i progressi, l'analisi di The Register è schietta: il silicio interno di Meta non sostituirà le GPU AMD o Nvidia in tempi brevi. Meta Superintelligence Labs sta quasi certamente ancora addestrando modelli di frontiera su GPU convenzionali e l'hardware specifico per l'applicazione rimane il più adatto a carichi di lavoro stabili e ben compresi.
Perché è importante
Il MTIA 400 è importante per due motivi. In primo luogo, mostra un hyperscaler disposto ad affrontare il carico di lavoro più difficile, ovvero la formazione di frontiera, piuttosto che sfruttare facili inferenze. In secondo luogo, l’aspetto pubblicitario del design ricorda l’aspetto economico: ogni dollaro di capex sul silicio personalizzato è sottoscritto dall’attività pubblicitaria più redditizia della storia. Se Meta riuscisse a spostare anche solo una frazione dei suoi carichi di lavoro di formazione e raccomandazione dalle GPU dei commercianti, i risparmi su larga scala sarebbero misurati in miliardi.
Fonti: presentazione Hot Chips 2026 di Meta, The Register e ServeTheHome.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →