Un nou startup AI fondat de un fost cercetător OpenAI a lansat ceea ce numește o clasă complet nouă de modele - una care nu vă poate scrie un eseu și spune că tocmai acesta este ideea.
TypeSafe AI a anunțat marți lansarea primului său „System One Model”, denumit Jev, disponibil imediat în acces anticipat. Compania a fost fondată de Diogo Almeida, care spune că cercetarea din spatele urmăririi instrucțiunilor ChatGPT a rezultat din munca la care a contribuit la OpenAI. După doi ani în ascuns, el susține că fixarea industriei pe chat a ascuns acolo unde automatizarea eșuează de fapt. For more context on this story, see our ongoing more AI stories.
"Modelele au fost supraomenești la chat de ani de zile, așa că unde este toată automatizarea?" Almeida a scris în postarea de lansare. „Aceasta a fost întrebarea mea motrice în ultimii patru ani”.
Ce este de fapt un model „System One”.
Numele împrumută din distincția psihologiei între gândirea rapidă, instinctivă și raționamentul lent și deliberat. Acolo unde modelele mari de limbaj generează text token cu simbol – flexibil, general și predispus la prostii ocazionale încrezătoare – Jev de la TypeSafe este construit pentru a face ceva mai restrâns: să ia starea nestructurată ca intrare și să returneze decizii structurate, tastate, cu probabilități calibrate atașate.
Compania îl descrie pe Jev ca fiind „un apel de funcție de frontieră: stare nestructurată intră, decizii probabilistice tipizate”. Deoarece posibilele rezultate sunt definite în avans și modelul nu generează niciodată șiruri de caractere libere, TypeSafe susține că nu poate produce erori de tip - o proprietate despre care compania spune că este garantată matematic și nu probabilă statistic - și nu poate halucina în felul în care modelele care generează text.
Arhitectura se îndepărtează de practica obișnuită în trei moduri, conform postării de lansare: o nouă arhitectură de model, un eșantionare paralel care produce toate rezultatele într-o singură interogare, mai degrabă decât secvențial, și o metodă de instruire pe care compania o numește Reinforcement Learning for Calibrate Decisions (RLCD), care optimizează pentru probabilități epistemic oneste în loc de preferințe umane sau rezultate programatice.
Revendicările: de 100 de ori mai rapid, o fracțiune din cost
Cifrele pe care TypeSafe le publică sunt agresive. Compania spune că Jev oferă informații comparabile cu LLM-urile de frontieră existente pentru ceea ce numește sarcini „în formă de sistem One” - clasificare, rutare, scor, extragere și decizii de ramificare - în timp ce răspunde în 70 până la 500 de milisecunde, cu timpi de răspuns end-to-end de 3 până la 329 de secunde pentru modelele de frontieră. Acest lucru funcționează de 40 de ori până la 200 de ori mai rapid, spune compania.
Prețurile sunt la fel de neconvenționale: 0,042 USD per milion de jetoane de intrare, cu jetoane de ieșire gratuite, deoarece ieșirile sunt calculate în paralel și nu sunt generate token cu simbol. Compania a recunoscut în postarea sa că nu poate dovedi încă că prețul este sustenabil la scară.
„Pretențiile extraordinare necesită dovezi extraordinare”, se arată în postare, înainte de a oferi dovezile pe care le are.
Chitanțe – și ce spun scepticii
TypeSafe a publicat un demo alăturat comparând Jev cu GPT-5.6 Terra, pe care îl descrie ca fiind cel mai comparabil model de frontieră la informații similare și spune că singurul dezacord din runda înregistrată a implicat un apel de judecată cu adevărat ambiguu. De asemenea, a introdus o nouă metodologie de „evaluare a fluxului de lucru” care măsoară modelele față de consensul celor mai mari modele externe – OpenAI’s Astra și Anthropic’s Fable – într-un grafic de calcul fix și susține că Jev „deține frontiera Pareto pentru aproape 2 ordine de mărime”.
În special, compania a publicat o postare însoțitoare intitulată „antibenchmaxxing” în care explică de ce evită benchmark-urile tradiționale, argumentând că un model conceput pentru decizii structurate în cadrul fluxurilor de lucru software rezistă comparației globale semnificative.
Reacția de la Hacker News, unde lansarea a atras sute de puncte în câteva ore, a variat de la entuziasm autentic la scepticism ascuțit. Mai mulți comentatori au remarcat că dovezile publice constau în mare parte din videoclipuri demonstrative – inclusiv unul care arată modelul care alimentează o buclă de joc Doom – mai degrabă decât evaluări reproductibile de la terți. Alții au susținut că abordarea este cel mai bine înțeleasă ca un clasificator extrem de rapid, de calitate de frontieră, util pentru o porțiune de sarcini, mai degrabă decât un înlocuitor pentru LLM.
Chiar și observatorii simpatici au încadrat în mod clar sarcina probei. „Da, vorbesc ca sceptici, dar nu oferă o mulțime de dovezi, în afară de câteva videoclipuri cu demonstrații”, a scris un comentator. „O demonstrație live ar fi mult mai convingătoare.”
De ce ar putea conta oricum
Terenul aterizează pe un adevărat punct de durere. O mare parte din apelurile LLM de producție în software-ul comercial nu sunt deloc generative - sunt judecăți binare, atribuiri de categorii și decizii de rutare înglobate în proză. Dacă un model poate efectua aceste apeluri cu o încredere calibrată la 70 de milisecunde și efectiv zero costuri de ieșire, economia software-ului alimentat de AI se schimbă considerabil: interfețele utilizatorului în timp real devin practice, iar etapele pipeline care au fost prea costisitoare pentru a fi automatizate cu LLM-uri devin suficient de ieftine pentru a rula peste tot.
Cazurile de utilizare sugerate de TypeSafe includ clasificarea și rutarea datelor, verificarea și protejarea rezultatelor LLM, detectarea jailbreak-urilor și analiza de reducere a hărților pe seturi de date mari - sarcini de lucru în care codul înconjurător poate limita libertatea modelului și poate detecta erori.
Compania este sinceră cu privire la întrebările deschise: evaluările sale publicate au fost efectuate de pe laptopuri de pe Coasta de Vest a SUA, iar sustenabilitatea prețurilor pe termen lung rămâne nedovedită. Indiferent dacă informațiile lui Jev supraviețuiesc contactului cu teste independente, va determina dacă „Modelele System One” devin o categorie sau o curiozitate.
Accesul timpuriu este deschis acum prin intermediul site-ului companiei.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
