Un nou tip de model AI și-a făcut debutul în această săptămână și face ceva neobișnuit pentru un model construit pe arhitectura transformatorului: nu produce niciodată un cuvânt de text. Jev, lansat de startup-ul TypeSafe AI vechi de doi ani, scoate în schimb probabilități calibrate – ceea ce compania numește decizii tipizate, calibrate – poziționându-se ca o alternativă ieftină și rapidă la modelele mari de limbaj pentru clasificare, rutare și automatizare, potrivit TechCrunch.
Compania a fost fondată de Diogo Almeida, un cercetător OpenAI care a contribuit la construirea ChatGPT și a contribuit la inventarea învățării prin întărire din feedbackul uman (RLHF), tehnica de antrenament recunoscută pe scară largă pentru modelarea actualei generații de asistenți AI. Cererea pentru noul model a fost suficient de intensă încât TypeSafe și-a pierdut pentru scurt timp capacitatea de a servi unor utilizatori API după lansare. For more context on this story, see our ongoing artificial intelligence updates.
De ce un ChatGPT Pioneer Abandoned Language
Drumul lui Almeida către un model non-text a început cu dezamăgire la OpenAI. „Avem fulgere într-o sticlă și totuși nu este util”, a spus Almeida pentru TechCrunch, descriindu-și frustrarea că, în ciuda capacităților ChatGPT, tehnologia nu a ajuns la adevărata automatizare. "M-am luptat cu această problemă de atunci. Mi-a luat ceva timp să ajung la concluzia: problema este că optimizăm pentru limbajul uman... Suntem foarte buni la limbajul uman de patru ani, dar nu este util pentru automatizare, deoarece computerele vorbesc o altă limbă."
În urmă cu doi ani, Almeida a părăsit OpenAI pentru a fonda TypeSafe AI și a urma acea teză. Rezultatul este Jev, un model bazat pe transformator despre care compania insistă că nu este un model de limbaj mare. Acolo unde un LLM generează text deschis, Jev returnează probabilități printr-un set de rezultate pe care utilizatorul le definește în prealabil - un design despre care compania spune că face halucinația imposibilă din punct de vedere structural, deoarece modelul poate răspunde doar cu opțiunile care i-au fost oferite.
Câștigurile de eficiență sunt o parte esențială a pitch-ului. Jetoanele de ieșire de la Jev sunt gratuite, iar jetoanele de intrare sunt măsurate cu un miliard, mai degrabă decât cu un milion, conform TechCrunch. Compania descrie Jev ca pe un „model System One”, concentrat mai degrabă pe intuiție decât pe raționament și spune că a fost antrenat exclusiv pe date sintetice folosind o tehnică pe care Almeida o numește învățare prin consolidare din decizii calibrate.
TypeSafe a ținut sub secret arhitectura lui Jev, deși observatorii externi suspectează că sistemul este construit pe un LLM deschis. „Jumătate din [compania noastră] este un laborator care deține practic acest întreg subdomeniu de date sintetice bine înțelese din punct de vedere statistic, iar asta este acum bucuria vieții mele”, a spus Almeida pentru TechCrunch.
Rezultate timpurii pentru dezvoltatori: mai rapid și mai ieftin
Primii adoptatori au raportat câștiguri notabile în testare. Pranit Sharma, inginer software la Vercel, a declarat pentru TechCrunch că compania sa a folosit ChatGPT Luna 5.6 de la OpenAI pentru a rula un clasificator care analizează comenzile pentru siguranță. După ce a trecut acel volum de muncă la Jev, Vercel a văzut rezultate de cinci până la 18 ori mai rapid și cu o mai mare acuratețe.
Nikhil Mudholkar, CTO al Bryo AI, a făcut o comparație diferită: clasificarea e-mailurilor de afaceri cu Jev față de Gemini de la Google. În testul său, Gemenii a fost puțin mai precis, dar de 10 până la 20 de ori mai scump. Pentru Mudholkar, cea mai valoroasă proprietate a lui Jev a fost gestionarea incertitudinii. „Este singurul care returnează o probabilitate reală, ceea ce îl face ideal pentru automatizarea fluxurilor de lucru”, a spus el pentru TechCrunch.
Agenți care urmăresc agenții, fără factura
Pe lângă înlocuirea LLM-urilor în sarcinile de clasificare, TypeSafe susține că Jev le poate supraveghea. Folosirea agenților AI pentru a monitoriza alți agenți devine rapid costisitoare, dar Almeida susține că viteza și profilul de cost al lui Jev fac posibilă urmărirea urmelor agenților LLM și prevenirea jailbreak-urilor în timp real.
Armin Ronacher, CTO al Earendil și constructorul modelului open source Pi, a declarat pentru TechCrunch că abordarea transferă responsabilitatea pentru incertitudine asupra dezvoltatorului. „Delegează puțin problema halucinațiilor utilizatorului”, a spus Ronacher. „Utilizatorul trebuie să spună, bine, dacă aceasta se întoarce doar cu 50% probabilitate, poate că aceasta este o aruncare de monede, iar eu îl ignor. Dar dacă este de 95%, sigur, atunci pot face ceva cu el.”
Ronacher a semnalat, de asemenea, rutarea modelului ca un caz de utilizare promițător: estimarea dacă o anumită sarcină de lucru necesită un model specific, mai scump. A face această sortare cu un LLM ar fi costisitor, dar latența scăzută și prețul lui Jev ar putea face viabilă rutarea în timp real.
Un nume împrumutat din economie
Modelul poartă numele lui William Stanley Jevons, economistul din secolul al XIX-lea din spatele paradoxului Jevons - observația că, pe măsură ce o marfă devine mai ieftină, consumul acesteia tinde să crească. Pariul lui Almeida este că scăderea costurilor cu inteligența decizională va duce la implementarea acesteia peste tot, nu doar în chatbot-urile emblematice.
„Credem că va exista un software inteligent peste tot într-un mod care este emergent și distribuit... mult mai mult ca internetul timpuriu decât știți, precum mega-aplicațiile pe care oamenii încearcă să le construiască chiar acum”, a spus Almeida pentru TechCrunch.
Dacă concurenții urmează rămâne o întrebare deschisă. „Ar fi trebuit să vedem acest lucru mai devreme în multe feluri, dar, probabil, pentru că LLM-urile sunt atât de ieftine și subvenționate, de multe ori nu trebuie să fii încă creativ”, a spus Ronacher pentru TechCrunch. TypeSafe plănuiește versiuni suplimentare de Jev în modalități noi.
În ceea ce privește dacă TypeSafe este considerat un laborator de frontieră, Almeida a oferit un răspuns clar: „Produsul principal al laboratoarelor de frontieră este frica sau exagerarea. Aș dori ca produsul nostru principal să fie inteligența... [dar nu suntem] un laborator în sensul, știi, cum ar fi pariul pe bogăția infinită, sau o religie, sau construirea lui Dumnezeu într-un centru de date, sau orice altceva este lucrul de astăzi.”
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
