Un nuovo tipo di modello di intelligenza artificiale ha fatto il suo debutto questa settimana e fa qualcosa di insolito per un modello costruito sull'architettura del trasformatore: non produce mai una parola di testo. Jev, rilasciato dalla startup di due anni TypeSafe AI, produce invece probabilità calibrate - ciò che l'azienda chiama decisioni digitate e calibrate - posizionandosi come un'alternativa economica e veloce ai grandi modelli linguistici per la classificazione, l'instradamento e il lavoro di automazione, secondo TechCrunch.
L'azienda è stata fondata da Diogo Almeida, un ricercatore OpenAI che ha contribuito a costruire ChatGPT e ha contribuito all'invenzione dell'apprendimento per rinforzo dal feedback umano (RLHF), la tecnica di formazione ampiamente accreditata per aver plasmato l'attuale generazione di assistenti IA. La domanda per il nuovo modello è stata così intensa che TypeSafe ha perso brevemente la capacità di servire alcuni utenti API dopo il lancio. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Perché un pioniere di ChatGPT ha abbandonato la lingua
Il percorso di Almeida verso un modello non testuale è iniziato con delusione presso OpenAI. "Abbiamo un fulmine in una bottiglia, eppure non è utile", ha detto Almeida a TechCrunch, descrivendo la sua frustrazione per il fatto che, nonostante le capacità di ChatGPT, la tecnologia non è riuscita a raggiungere una vera automazione. "Da allora combatto questo problema. Mi ci è voluto un po' per arrivare alla conclusione: il problema è che stiamo ottimizzando per il linguaggio umano... Siamo bravissimi nel linguaggio umano da quattro anni, ma non è utile per l'automazione perché i computer parlano una lingua diversa."
Due anni fa, Almeida ha lasciato OpenAI per fondare TypeSafe AI e perseguire quella tesi. Il risultato è Jev, un modello basato su trasformatori che, secondo l'azienda, non è un modello linguistico di grandi dimensioni. Laddove un LLM genera testo a risposta aperta, Jev restituisce le probabilità attraverso una serie di output che l'utente definisce in anticipo: un progetto che, secondo l'azienda, rende l'allucinazione strutturalmente impossibile, poiché il modello può rispondere solo con le opzioni che gli sono state fornite.
I guadagni in termini di efficienza sono una parte fondamentale del campo. Secondo TechCrunch, i token di output di Jev sono gratuiti e i token di input vengono misurati in miliardi anziché in milioni. L'azienda descrive Jev come un "modello System One", incentrato sull'intuizione piuttosto che sul ragionamento, e afferma che è stato addestrato esclusivamente su dati sintetici utilizzando una tecnica che Almeida chiama apprendimento per rinforzo da decisioni calibrate.
TypeSafe ha tenuto nascosta l'architettura di Jev, anche se gli osservatori esterni sospettano che il sistema sia costruito su un LLM a peso aperto. "Metà della [nostra azienda] è un laboratorio che sostanzialmente possiede questo intero sottocampo di dati sintetici statisticamente ben compresi, e questa ora è la gioia della mia vita", ha detto Almeida a TechCrunch.
Primi risultati per gli sviluppatori: più veloce ed economico
I primi utilizzatori hanno riportato notevoli miglioramenti nei test. Pranit Sharma, un ingegnere informatico di Vercel, ha dichiarato a TechCrunch che la sua azienda ha utilizzato ChatGPT Luna 5.6 di OpenAI per eseguire un classificatore che esamina i comandi per la sicurezza. Dopo aver trasferito il carico di lavoro su Jev, Vercel ha riscontrato risultati da 5 a 18 volte più rapidamente e con maggiore precisione.
Nikhil Mudholkar, CTO di Bryo AI, ha eseguito un confronto diverso: classificando le e-mail aziendali con Jev rispetto a Gemini di Google. Nel suo test, Gemini si è rivelato leggermente più preciso, ma da 10 a 20 volte più costoso. Per Mudholkar, la proprietà più preziosa di Jev era la gestione dell'incertezza. "È l'unico che restituisce una probabilità reale che lo rende ideale per automatizzare i flussi di lavoro", ha dichiarato a TechCrunch.
Agenti che guardano gli agenti, senza il conto
Oltre a sostituire gli LLM nelle attività di classificazione, TypeSafe sostiene che Jev può controllarli. Usare agenti IA per monitorare altri agenti diventa rapidamente costoso, ma Almeida sostiene che la velocità e il profilo di costo di Jev rendono pratico tenere traccia delle tracce degli agenti LLM e prevenire i jailbreak in tempo reale.
Armin Ronacher, CTO di Earendil e costruttore del modello open source Pi, ha dichiarato a TechCrunch che l'approccio sposta la responsabilità dell'incertezza sullo sviluppatore. "Delega un po' il problema delle allucinazioni all'utente", ha detto Ronacher. "L'utente deve dire, okay, se questo ritorna solo con il 50% di probabilità, forse si tratta di un lancio di moneta, e io lo ignoro. Ma se è il 95%, certo, allora posso farci qualcosa."
Ronacher ha inoltre indicato il model routing come un caso d'uso promettente: prevedere se un determinato carico di lavoro richiede un modello specifico e più costoso. Effettuare tale ordinamento con un LLM sarebbe costoso, ma la bassa latenza e il prezzo di Jev potrebbero rendere praticabile il routing in tempo reale.
Un nome preso in prestito dall'economia
Il modello prende il nome da William Stanley Jevons, l’economista del XIX secolo dietro il paradosso di Jevons – l’osservazione che quando una merce diventa più economica, il suo consumo tende ad aumentare. La scommessa di Almeida è che la riduzione dei costi dell'intelligence a livello decisionale porterà al suo dispiegamento ovunque, non solo nei chatbot di punta.
"Pensiamo che ci sarà software intelligente ovunque, in modo emergente e distribuito... molto più simile al primo Internet che alle mega app che le persone stanno cercando di costruire in questo momento", ha detto Almeida a TechCrunch.
Se i concorrenti seguano rimane una questione aperta. "Avremmo dovuto vederlo prima in molti modi, ma presumibilmente poiché i LLM sono così economici e sovvenzionati, spesso non è necessario essere ancora creativi", ha detto Ronacher a TechCrunch. TypeSafe prevede versioni aggiuntive di Jev in nuove modalità.
Per quanto riguarda TypeSafe come laboratorio di frontiera, Almeida ha offerto una risposta mirata: "Il prodotto principale dei laboratori di frontiera è la paura o l'hype. Vorrei che il nostro prodotto principale fosse l'intelligenza... [ma non siamo] un laboratorio nel senso di, sai, come scommettere su una ricchezza infinita, o una religione, o costruire Dio in un data center, o qualunque cosa sia la cosa di oggi."
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
