Il laboratorio cinese di intelligenza artificiale StepFun ha lanciato Step 5 Preview, un nuovo modello linguistico di punta che attira l'attenzione meno per la posizione dominante nei benchmark e più per dove si colloca sulla curva prezzo-prestazioni. Il modello, un sistema di miscela sparsa di esperti (MoE) da 600 miliardi di parametri con una finestra di contesto da 1 milione di token, è già stato definito il modello di frontiera più economico della Cina fino ad ora dalla stampa tecnologica che ha pubblicato il comunicato.

Le specifiche: grande modello, grande contesto

Secondo Pandaily, che ha riportato il lancio, Step 5 Preview è costruito su un'architettura MoE sparsa da 600B, un design in cui solo una frazione dei parametri del modello si attiva per ciascun token, mantenendo i costi di inferenza gestibili nonostante l'enorme numero totale di parametri. La famiglia di architettura è diventata il paradigma dominante per i modelli su scala di frontiera, utilizzati da tutti, da DeepSeek a Mistral.

La finestra di contesto è altrettanto notevole: 1 milione di token, che Artificial Analysis descrive come circa 1.500 pagine A4 di testo. Questa capacità consente al modello di gestire intere basi di codice, lunghi documenti legali o analisi estese di più documenti in un unico passaggio. Il modello accetta input sia di testo che di immagini e restituisce testo e funziona in modalità di ragionamento, generando riflessioni intermedie prima di produrre risposte finali.

Forse il dettaglio più attentamente osservato dagli sviluppatori: StepFun prevede di rilasciare i pesi aperti del modello il 15 ottobre, secondo Pandaily. Un periodo di anteprima dietro un'API seguito da pesi aperti sta diventando un ritmo familiare per i laboratori cinesi, dando alla comunità il tempo di valutare il modello prima che arrivi sull'hardware locale.

Posizione benchmark: forte, non dominante

Nell'Indice indipendente di Analisi Intelligenza Artificiale, Step 5 Preview ottiene un punteggio di 44, posizionandosi al 24° posto su 200 modelli monitorati sulla piattaforma, ben al di sopra della media di 24 per la sua classe, anche se non al vertice della frontiera. L'analisi artificiale caratterizza il modello come "tra i modelli leader in termini di intelligenza e con un buon prezzo rispetto ad altri modelli di prezzo simile".

Anche i parametri di velocità sono solidi. Secondo la valutazione della piattaforma, il modello produce un output a circa 99,8 token al secondo, più veloce della media di circa 70 token al secondo tra i modelli tracciati.

Un avvertimento degno di nota: l'anteprima del passaggio 5 è insolitamente dettagliata. L'analisi artificiale ha misurato la generazione di circa 160 milioni di token attraverso la valutazione dell'indice di intelligenza, rispetto a una media di 92 milioni per modelli comparabili. La verbosità è importante nella pratica: più token generati significano risposte percepite più lente e fatture più elevate per i token di output, che possono erodere parte del vantaggio in termini di prezzo principale a seconda dell'attività.

La storia dei prezzi

Il prezzo è il punto in cui l'anteprima del passaggio 5 sta facendo il suo passo più aggressivo. Secondo Artificial Analysis, il modello costa 1,00 dollari per milione di token di input e 2,70 dollari per milione di token di output tramite API, contro una media di 1,88 e 10,00 dollari rispettivamente per i modelli della sua categoria. Il titolo dell'Eastern Herald lo inquadra chiaramente: il modello cinese di intelligenza artificiale 600B a 1 dollaro per milione di token.

Per i carichi di lavoro sensibili ai costi (elaborazione di documenti ad alto volume, riepilogo batch, sistemi ad agenti che bruciano milioni di token al giorno) un modello adiacente alla frontiera con un prezzo inferiore alla mediana della classe sia in input che in output è un'opzione commercialmente significativa. Il rilascio di pesi aperti previsto per ottobre potrebbe abbassare ulteriormente i costi effettivi per le organizzazioni in grado di ospitarsi autonomamente.

Una frontiera cinese affollata

L'anteprima della Fase 5 arriva nel mezzo di un'intensa serie di rilasci da parte dei laboratori cinesi di intelligenza artificiale, con la famiglia Qwen di Alibaba, DeepSeek, Z.ai e altri che spediscono nuovi modelli in tempi rapidi. Gli organi tecnologici in Cina hanno descritto il periodo attuale come una resa dei conti a tutto tondo, con i laboratori che, secondo quanto riferito, lavorano durante quelli che normalmente sarebbero periodi di vacanza per tenere il passo con i rivali.

Per StepFun in particolare, la scommessa è che la combinazione di intelligence adiacente alla frontiera, una finestra di contesto di token da 1 milione, input multimodale e prezzi aggressivi conquisterà la condivisione della mente degli sviluppatori prima del rilascio open-weights di ottobre. La discussione su Hacker News, dove il lancio del modello ha raccolto più di un centinaio di punti, suggerisce che la comunità degli sviluppatori sta prestando attenzione.

Cosa guardare

Tre domande daranno forma alla ricezione di Step 5 Preview nelle prossime settimane. In primo luogo, come si comporta nella codifica, nel ragionamento e nei benchmark degli agenti del mondo reale al di fuori delle valutazioni degli indici standardizzati? In secondo luogo, il problema della verbosità verrà ridotto prima del rilascio dei pesi aperti e quali saranno i requisiti di sistema per la distribuzione locale? In terzo luogo, l’infrastruttura API di StepFun è in grado di gestire la domanda su larga scala, una sfida che ha già fatto inciampare i concorrenti più economici?

Le risposte arriveranno rapidamente in un mercato che misura i progressi in pochi giorni. Per una copertura continua di StepFun, dell'ecosistema cinese di intelligenza artificiale e della concorrenza globale sui prezzi dei modelli, segui gli ultimi sviluppi dell'intelligenza artificiale man mano che si verificano.

Stai al passo con l'intelligenza artificiale

Il lancio di modelli come questo sta rimodellando i costi dell’infrastruttura AI. Tieniti aggiornato su ogni pubblicazione su AI Buzz Wire, la tua fonte di notizie sull'intelligenza artificiale per modelli, ricerca e business.

Leggi altre notizie sull'AI →