Cloudflare ha annunciato martedì l'anteprima di Clairic, un modello di estrazione che l'azienda descrive come il primo di una nuova classe di modelli "System One" progettati per estrarre valori strutturati da dati non strutturati senza alcuna generazione token per token che definisce modelli linguistici di grandi dimensioni. Il modello è ora disponibile in anteprima sulla piattaforma Workers AI di Cloudflare come @cf/cloudflare/clairic, e la società afferma che intende rilasciare apertamente i pesi del modello nel prossimo futuro.
Il lancio posiziona Cloudflare esattamente all'interno di uno dei dibattiti più interessanti che sta rimodellando il mercato delle infrastrutture AI: se ogni attività assegnata a un LLM necessita effettivamente di un LLM. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Cosa fa Clairic e cosa deliberatamente non fa
Clairic è progettato per un lavoro ristretto ma estremamente comune: leggere input disordinati e non strutturati e restituire valori digitati. Secondo l'annuncio di Cloudflare, il modello può estrarre, calcolare, stimare e prevedere valori da input non strutturati, restituendo numeri con un intervallo dell'80%, valori digitati come nomi, date, orari ed elenchi e distribuzioni di probabilità complete, ciascuno con confidenza calibrata.
Ciò che non fa è generare testo. Una query a Clairic restituisce un valore del tipo dichiarato dallo sviluppatore o un risultato null abbinato a un punteggio p_null che stima la probabilità che la risposta semplicemente non sia presente nell'input. Ogni risposta viene fornita con un punteggio di affidabilità in modo che i sistemi a valle possano decidere se fidarsi o contrassegnarla per la revisione umana.
Cloudflare è esplicito riguardo al compromesso. Poiché Clairic non genera token, non può produrre JSON malformato, leggere erroneamente una cifra a metà generazione o avere allucinazioni in una risposta come può fare un LLM. Può ancora commettere errori – l’azienda è attenta su questo punto – ma i suoi fallimenti sono tipizzati e misurabili piuttosto che in forma libera.
L'etichetta "System One", spiegata
La terminologia deriva dalla startup AI TypeSafe, che ha annunciato i propri modelli System One circa un mese fa ed è diventata rapidamente uno dei lanci più discussi nella comunità degli sviluppatori. L'inquadratura prende in prestito dal libro dello psicologo Daniel Kahneman "Thinking, Fast and Slow": il pensiero del Sistema Uno è veloce, automatico e preciso, mentre il pensiero del Sistema Due è lento e deliberato. TypeSafe ha mappato questa distinzione sui modelli di intelligenza artificiale, sostenendo che molti carichi di lavoro di produzione necessitano di risposte rapide e ben scritte piuttosto che di ragionamenti aperti.
Jev di TypeSafe, un modello decisionale creato appositamente per un dominio specifico, ha preso le probabilità come input e ha restituito le probabilità su un elenco fisso di possibili risposte. Finora questa era l’intera categoria: ogni modello del System One era un modello decisionale.
Clairic estende il concetto. Laddove un modello decisionale sceglie tra opzioni predefinite, un modello di estrazione risponde con valori: numeri estratti direttamente dall’input, calcolati da esso o previsioni al di là di esso. Cloudflare afferma che le due famiglie di modelli, insieme ai LLM convenzionali, ora formano uno stack a tre livelli: i modelli di estrazione trasformano l’input grezzo in valori digitati, i modelli decisionali trasformano i valori in decisioni e i LLM trasformano le decisioni in parole.
Perché l'estrazione è matura per un ripensamento
L'argomentazione di Cloudflare si basa su quanto del traffico LLM di oggi viene speso in lavori che non assomigliano per niente a una conversazione. L'azienda definisce l'estrazione "probabilmente il lavoro più comune affidato oggi ai LLM": estrarre il totale di una fattura, una data di consegna o un numero di parte da un documento.
Il problema, secondo Cloudflare, è che i LLM gestiscono quel lavoro con macchinari costruiti per qualcos'altro. L'output potrebbe non essere un JSON valido. Una cifra può essere letta erroneamente durante la generazione dei token. Non è possibile risalire alla posizione nel documento di origine di un estratto di testo restituito. I team rispondono inserendo i modelli in pipeline difensive: validatori di schemi, logica di ripetizione, livelli di analisi e controlli a campione. E poiché i LLM fatturano ragionamenti e token di output, ogni campo di ogni documento comporta un costo di generazione che si adatta alla verbosità piuttosto che alla difficoltà del compito.
Un modello di estrazione System One inverte tale economia. Cloudflare afferma che Clairic elabora l'input con un singolo passaggio in avanti, addebita solo i token di input e in genere risponde in meno di un secondo, mentre un LLM di ragionamento che lavora sugli stessi campi può richiedere diversi secondi. Per l'elaborazione di grandi volumi di documenti, la differenza aumenta rapidamente.
Come funziona effettivamente una richiesta
Gli sviluppatori inviano a Clairic uno stato – il testo da leggere, più fino a quattro immagini opzionali – insieme a una mappa di campi digitati. Ogni campo porta un nome, un tipo e istruzioni facoltative in linguaggio semplice. Il modello restituisce una risposta digitata per campo, calcolata in un unico passaggio parallelo. Se l'elenco dei campi non si adatta all'input in un passaggio, il server suddivide il lavoro in passaggi paralleli in cui ciascuno vede l'input completo, quindi unisce le risposte.
Per le attività di stima, le risposte arrivano come una distribuzione: una mediana con un intervallo dell'80% che va dal 10° al 90° percentile, con tutti i 99 percentili disponibili su richiesta. Ciò rende il modello utilizzabile per domande di tipo previsionale (costi di riparazione previsti, tempi di consegna, traffico nel giorno successivo) in cui una stima puntuale sovrastimerebbe la certezza del modello.
Un segnale per il mercato delle infrastrutture
Se lo stesso Clairic avrà successo è quasi irrilevante. Il lancio è un altro punto di riferimento in un rapido spostamento tra i fornitori di infrastrutture verso modelli di giusto dimensionamento delle attività: modelli piccoli, veloci ed economici per lavori strutturati e ristretti, con LLM di frontiera riservati a ragionamenti veramente aperti. Il posizionamento stesso di Cloudflare – secondo cui i modelli di estrazione, decisione e linguaggio dovrebbero funzionare all'unisono – si legge come un modello per come pensa che gli stack di intelligenza artificiale di produzione saranno assemblati.
La società non ha annunciato una data per il rilascio promesso a pesi aperti. Per ora, Clairic è disponibile in anteprima su Workers AI, dove gli sviluppatori possono testarlo rispetto ai propri carichi di lavoro di estrazione e scoprire quanta parte della loro fattura LLM è stata realmente necessaria.
_Questo articolo si basa sull'annuncio ufficiale di Cloudflare dell'anteprima del modello di estrazione Clairic._
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
