Perplexity a publicat o postare detaliată despre Decider v1.3, cea mai nouă versiune a familiei sale de modele de decizie, intitulată „Perplexity Decider v1.3: Training, eval, and use cases”. Postarea a ajuns vineri pe prima pagină a Hacker News și a atras peste 140 de puncte în câteva ore, dezvoltatorii tranzacționând rezultate de referință și disputând unde se potrivesc de fapt aceste modele. Pentru mai multe despre aceasta și alte știri de ultimă oră AI, urmărim fiecare lansare de model pe măsură ce aterizează.
Atenția este mai puțin la o actualizare și mai mult la ceea ce dezvăluie thread-ul: în abia un an, modelele de decizie au trecut de la o curiozitate la o categorie aglomerată cu propriile lor repere, propria logică de prețuri și un domeniu competitiv care include acum Perplexity, TypeSafe, Microsoft, Google, Cloudflare și OpenAI.
Ce face de fapt un model de decizie
Cea mai clară definiție vine de la Artificial Analysis, laboratorul independent de evaluare al cărui Index de decizie v2.1 a devenit clasamentul de referință pentru categorie. În explicația sa, un model de decizie preia o întrebare cu un set fix de opțiuni - de exemplu, un bilet de asistență care întreabă dacă să direcționeze către facturare sau tehnic, dacă este urgent și cât de supărat este clientul - și returnează un răspuns pentru fiecare opțiune cu o probabilitate atașată, totul într-un singur apel.
Un model de limbaj cu uz general, dimpotrivă, generează o ieșire structurată care apoi trebuie analizată, iar un model de raționament cheltuiește o gândire suplimentară de calcul înainte de a răspunde. Modelele de decizie omit asta. Sunt instruiți să aleagă, nu să explice, ceea ce îi face suficient de rapid și ieftin pentru a rula pe fiecare document, fiecare cerere, la volum mare.
Cum se măsoară categoria
Artificial Analysis Decision Index v2.1, actualizat cu o pagină publică de metodologie, combină șase evaluări cu ponderi publicate: AA-Paperclip la 30 la sută, care rulează 1.500 de CV-uri, chitanțe, facturi și lucrări de cercetare prin decizii și extragerea faptelor; EvalSafe-ONET-AA la 15 la sută, pe baza criteriului de referință ONET al TypeSafe de judecăți cu privire la documentele de la locul de muncă; When2Call la 10 la sută, evaluarea NVIDIA a apelurilor de instrumente; AA-Omniscience-Decision v1.1 la 15% pentru cunoștințe și halucinații; HLE-MultiChoice v1.1 la 15%, întrebările cu răspunsuri multiple de la Humanity's Last Exam cu opțiune de refuzare; și AA-Symmetry v1.1 la 15%, care verifică dacă o decizie este valabilă atunci când opțiunile sale sunt mutate, reformulate sau respinse.
Ultimul test este spune. Un model care își inversează răspunsul atunci când inversați ordinea opțiunilor nu este de fapt hotărâtor - este potrivirea modelului. Calibrarea, invarianța și cunoașterea când să refuze sunt tratate ca cerințe de primă clasă, nu bonusuri.
Ce adaugă threadul de știri Hacker
Perplexity a ponderat pentru prima dată un membru al familiei cu 27 de miliarde de parametri, pplx-decider-v1-27b, pe Hugging Face la începutul lunii octombrie, astfel încât comunitatea a pus mâna pe aceste modele de săptămâni întregi. Reacția la v1.3 a fost amestecată într-un mod care se citește mai degrabă ca o piață sănătoasă decât ca un ciclu de hype.
Un dezvoltator a raportat că Decider v1.3 a arătat câștiguri atât față de v1.2, cât și față de Jev 1.14 de la TypeSafe în evaluările lor interne pentru o sarcină de extragere și potrivire a entităților. Un altul a spus că are performanțe bune în raportul lor de referință local și are un preț competitiv, menționând că o arhitectură de atenție bidirecțională se poate potrivi muncii decizionale. Alții au respins: un comentator a găsit v1.3 un pas înapoi pentru cazul lor de utilizare și a spus că indexul public a fost de acord, iar un altul a pus la îndoială dacă variantele flash diluează promisiunea de bază a categoriei de decizii în masă ieftine și precise.
De asemenea, firul a scos la suprafață ecosistemul din jur – modelele de decizie Clef de la Cloudflare și modelul de extracție Clairic, API-ul ScaleDown, D1 de la Liquid și modelul de decizie propriu al OpenAI – mai mulți dezvoltatori remarcând că indicele Artificial Analysis, care include costul pe sarcină și calibrarea alături de precizie, este singura comparație între furnizori în care au încredere.
De ce contează
Am acoperit pas cu pas ascensiunea acestei categorii: modelul Jev System-one de la TypeSafe, Decision-1 de la Microsoft construit pe Qwen și API-ul Decisions de la Google cu modelul său Gemini Decision-1. Perplexity Shipping v1.3 confirmă tiparul - fiecare platformă majoră de IA vrea acum să dețină stratul în care se fac alegeri structurate, deoarece acel strat se află în fața tuturor: triajul suportului, procesarea documentelor, apelarea instrumentelor, moderarea, verificările conformității.
Economia este punctul. Un model de raționament poate depăși un model de decizie în ceea ce privește acuratețea, dar latența și costul său, la un volum mare, îl fac instrumentul greșit pentru milioane de clasificări zilnice. Modelele de decizie comercializează inteligența generală cu răspunsuri calibrate, invariante, la un singur apel și, după cum arată dezbaterea Hacker News, cumpărătorii evaluează acum comerțul cu valori de referință reale și sarcini reale de lucru.
Decider v1.3 va trăi sau va muri pe acele tablouri de bord. Dar categoria în sine a sosit în mod clar.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citește mai multe știri AI →
