Cloudflare a anunțat marți previzualizarea Clairic, un model de extracție pe care compania îl descrie ca fiind primul dintr-o nouă clasă de modele „System One” concepute pentru a extrage valori structurate din datele nestructurate fără nicio generație token-by-token care definește modele mari de limbaj. Modelul este disponibil acum în previzualizare pe platforma Workers AI a Cloudflare ca @cf/cloudflare/clairic, iar compania spune că intenționează să elibereze în mod deschis greutățile modelului în viitorul apropiat.
Lansarea poziționează Cloudflare într-una dintre cele mai interesante dezbateri care remodelează acum piața infrastructurii AI: dacă fiecare sarcină atribuită unui LLM are de fapt nevoie de un LLM. For more context on this story, see our ongoing latest AI developments.
Ce face Clairic – și ce nu face în mod deliberat
Clairic este construit pentru o muncă îngustă, dar extrem de comună: citirea dezordonată, intrarea nestructurată și returnarea valorilor tastate. Conform anunțului Cloudflare, modelul poate extrage, calcula, estima și prognoza valori din intrări nestructurate, returnând numere cu o gamă de 80%, valori tastate precum nume, date, ore și liste și distribuții de probabilitate completă - fiecare cu o încredere calibrată.
Ceea ce nu face este să genereze text. O interogare către Clairic returnează fie o valoare de tipul declarat de dezvoltator, fie un rezultat nul asociat cu un scor p_null care estimează probabilitatea ca răspunsul pur și simplu să nu fie prezent în intrare. Fiecare răspuns este livrat cu un scor de încredere, astfel încât sistemele din aval să poată decide dacă să aibă încredere în el sau să îl semnaleze pentru examinare umană.
Cloudflare este explicit cu privire la compromis. Deoarece Clairic nu generează simboluri, nu poate produce JSON incorect, nu poate citi greșit o cifră de generație mijlocie sau nu poate halucina un răspuns așa cum poate un LLM. Încă poate face greșeli – compania este atentă în acest punct – dar eșecurile sale sunt mai degrabă tipizate și măsurabile decât în formă liberă.
Eticheta „System One”, explicată
Terminologia provine de la startup-ul AI TypeSafe, care și-a anunțat propriile modele System One în urmă cu aproximativ o lună și a devenit rapid una dintre cele mai discutate lansări în comunitatea de dezvoltatori. Încadrarea împrumută din cartea psihologului Daniel Kahneman „Thinking, Fast and Slow”: Gândirea Sistemului Unu este rapidă, automată și precisă, în timp ce gândirea Sistemului Doi este lentă și deliberată. TypeSafe a mapat această distincție pe modelele AI, argumentând că multe sarcini de producție au nevoie de răspunsuri rapide și bine scrise, mai degrabă decât de raționament deschis.
Jev de la TypeSafe, un model de decizie creat special pentru un anumit domeniu, a luat probabilitățile ca intrări și a returnat probabilități pe o listă fixă de răspunsuri posibile. Până acum, asta era întreaga categorie: fiecare model System One era un model de decizie.
Clairic extinde conceptul. În cazul în care un model de decizie alege dintre opțiunile predefinite, un model de extracție răspunde cu valori - numere extrase direct din intrare, calculate din aceasta sau prognozate dincolo de aceasta. Cloudflare spune că cele două familii de modele, alături de LLM-urile convenționale, formează acum o stivă cu trei straturi: modelele de extracție transformă intrarea brută în valori tipizate, modelele de decizie transformă valorile în decizii, iar LLM-urile transformă deciziile în cuvinte.
De ce extracția este coaptă pentru o regândire
Argumentul lui Cloudflare se bazează pe cât de mult din traficul LLM de astăzi este cheltuit pe muncă care nu seamănă deloc cu o conversație. Compania numește extracția „probabil cea mai obișnuită slujbă înmânată astăzi LLM-urilor” - extragerea unui total de factură, a unei date de livrare sau a unui număr de piesă dintr-un document.
Problema, în povestirea lui Cloudflare, este că LLM-urile se ocupă de această muncă cu mașini construite pentru altceva. Este posibil ca rezultatul să nu fie JSON valid. O cifră poate fi interpretată greșit pe măsură ce sunt generate jetoane. Un fragment de text returnat nu poate fi urmărit până la locația sa în documentul sursă. Echipele răspund prin împachetarea modelelor în conducte defensive: validatoare de schemă, logica de reîncercare, parsarea straturilor și verificări la fața locului. Și pentru că LLM-urile facturează pentru raționament și jetoane de ieșire, fiecare câmp al fiecărui document are un cost de generare care crește mai degrabă cu verbozitatea decât cu dificultatea sarcinii.
Un model de extracție System One inversează această economie. Cloudflare spune că Clairic procesează intrarea cu o singură trecere înainte, taxează numai pentru jetoanele de intrare și, de obicei, răspunde în mai puțin de o secundă – în timp ce un LLM rațional care lucrează prin aceleași câmpuri poate dura câteva secunde. Pentru procesarea documentelor de mare volum, diferența se agravează rapid.
Cum funcționează de fapt o solicitare
Dezvoltatorii îi trimit lui Clairic o stare – textul de citit, plus până la patru imagini opționale – alături de o hartă a câmpurilor tastate. Fiecare câmp poartă un nume, un tip și instrucțiuni opționale în limbaj simplu. Modelul returnează un răspuns tastat pe câmp, calculat într-o singură trecere paralelă. Dacă lista de câmpuri nu se potrivește alături de intrare într-o singură trecere, serverul împarte munca în treceri paralele, fiecare vad intrarea completă, apoi îmbină răspunsurile.
Pentru sarcinile de estimare, răspunsurile vin ca o distribuție: o mediană cu un interval de 80% care se întinde între percentilele 10 și 90, cu toate cele 99 de percentile disponibile la cerere. Acest lucru face ca modelul să fie utilizabil pentru întrebări de tip prognoză - costurile de reparație așteptate, termenele de livrare, traficul în ziua următoare - în cazul în care o singură estimare punctuală ar supraevalua certitudinea modelului.
Un semnal pentru piața infrastructurii
Dacă Clairic însuși reușește este aproape deloc în discuție. Lansarea este un alt punct de date într-o schimbare rapidă în rândul furnizorilor de infrastructură către modele de dimensionare corectă la sarcini: modele mici, rapide și ieftine pentru lucru structurat îngust, cu LLM-uri de frontieră rezervate raționamentului cu adevărat deschis. Poziționarea proprie a Cloudflare - că modelele de extracție, decizie și limbaj ar trebui să funcționeze la unison - se citește ca un plan pentru modul în care crede că vor fi asamblate stivele AI de producție.
Compania nu a anunțat o dată pentru lansarea promisă a greutăților deschise. Deocamdată, Clairic este disponibil în previzualizare pe Workers AI, unde dezvoltatorii îl pot testa în funcție de propriile sarcini de extracție – și pot afla cât de mult din factura lor LLM a fost vreodată cu adevărat necesară.
_Acest articol se bazează pe anunțul oficial al Cloudflare privind previzualizarea modelului de extracție Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
