Tento týden debutoval nový druh modelu umělé inteligence a dělá něco neobvyklého pro model postavený na architektuře transformátoru: nikdy nevytváří ani slovo textu. Jev, vydaný dva roky starým startupem TypeSafe AI, místo toho produkuje kalibrované pravděpodobnosti – to, co společnost nazývá typovaná, kalibrovaná rozhodnutí – a podle TechCrunch se staví jako levná a rychlá alternativa k velkým jazykovým modelům pro klasifikaci, směrování a automatizaci.
Společnost založil Diogo Almeida, výzkumník OpenAI, který pomohl vybudovat ChatGPT a přispěl k vynálezu posílení učení z lidské zpětné vazby (RLHF), tréninkové techniky, která je široce uznávána za formování současné generace asistentů AI. Poptávka po novém modelu byla natolik intenzivní, že TypeSafe po spuštění krátce ztratil schopnost obsluhovat některé uživatele API. For more context on this story, see our ongoing latest AI developments.
Proč ChatGPT Pioneer Abandoned Language
Cesta Almeidy k netextovému modelu začala zklamáním z OpenAI. "Máme blesk v láhvi, a přesto není užitečný," řekl Almeida pro TechCrunch a popsal svou frustraci z toho, že navzdory schopnostem ChatGPT tato technologie zaostává za skutečnou automatizací. "Od té doby s tím problémem bojuji. Chvíli mi trvalo, než jsem došel k závěru: Problém je, že optimalizujeme pro lidský jazyk... Už čtyři roky jsme super dobří v lidské řeči, ale pro automatizaci to není užitečné, protože počítače mluví jiným jazykem."
Před dvěma lety Almeida opustil OpenAI, aby založil TypeSafe AI a pokračoval v této tezi. Výsledkem je Jev, model založený na transformátoru, o kterém společnost trvá na tom, že není velkým jazykovým modelem. Tam, kde LLM generuje text s otevřeným koncem, vrací Jev pravděpodobnosti přes sadu výstupů, které uživatel předem definuje – návrh, o kterém společnost říká, že halucinace je strukturálně nemožný, protože model může odpovědět pouze s možnostmi, které mu byly dány.
Zvýšení efektivity je klíčovou součástí hřiště. Výstupní tokeny z Jev jsou zdarma a vstupní tokeny se podle TechCrunch měří spíše miliardou než milionem. Společnost popisuje Jev jako „model System One“, zaměřený spíše na intuici než na uvažování, a říká, že byl trénován výhradně na syntetických datech za použití techniky, kterou Almeida nazývá posílením učení z kalibrovaných rozhodnutí.
TypeSafe držel architekturu Jev pod pokličkou, i když vnější pozorovatelé mají podezření, že systém je postaven na otevřeném LLM. „Polovina [naší společnosti] je laboratoř, která v podstatě vlastní celé toto podpole statisticky dobře srozumitelných syntetických dat, a to je nyní moje životní radost,“ řekl Almeida pro TechCrunch.
První výsledky pro vývojáře: Rychlejší a levnější
První uživatelé hlásili pozoruhodné zisky v testování. Pranit Sharma, softwarový inženýr ve Vercelu, řekl TechCrunch, že jeho společnost používala OpenAI ChatGPT Luna 5.6 ke spuštění klasifikátoru, který kontroluje bezpečnost příkazů. Po přepnutí této pracovní zátěže na Jev viděl Vercel výsledky pětkrát až 18krát rychleji a s větší přesností.
Nikhil Mudholkar, technický ředitel Bryo AI, provedl jiné srovnání: klasifikoval obchodní e-maily s Jev proti Gemini od Googlu. V jeho testu byl Gemini o něco přesnější, ale 10 až 20krát dražší. Pro Mudholkara bylo Jevovým nejcennějším majetkem jeho zvládání nejistoty. "Je to jediný, který vrací skutečnou pravděpodobnost, díky čemuž je ideální pro automatizaci pracovních postupů," řekl TechCrunch.
Agenti sledují agenty, bez účtu
Kromě nahrazení LLM v klasifikačních úkolech TypeSafe tvrdí, že Jev je může kontrolovat. Používání agentů AI k monitorování jiných agentů se rychle prodraží, ale Almeida tvrdí, že rychlost a nákladový profil Jev umožňuje prakticky sledovat stopy agentů LLM a předcházet útěkům z vězení v reálném čase.
Armin Ronacher, technický ředitel společnosti Earendil a tvůrce open source modelového svazku Pi, řekl TechCrunch, že tento přístup přesouvá odpovědnost za nejistotu na vývojáře. "Trochu to deleguje problém s halucinacemi na uživatele," řekl Ronacher. "Uživatel musí říct, dobře, pokud se to vrátí jen s 50% pravděpodobností, možná je to hození mincí a já to ignoruji. Ale pokud je to 95%, jistě, pak s tím můžu něco udělat."
Ronacher také označil směrování modelu jako slibný případ použití: předpovídání, zda daná pracovní zátěž vyžaduje konkrétní, dražší model. Dělat takové třídění pomocí LLM by bylo nákladné, ale nízká latence a cena Jev by mohly umožnit směrování v reálném čase.
Jméno vypůjčené z ekonomie
Model je pojmenován po Williamu Stanley Jevonsovi, ekonomovi z 19. století, který stojí za Jevonsovým paradoxem – pozorováním, že když se komodita stává levnější, její spotřeba má tendenci stoupat. Almeida sází na to, že klesající náklady na inteligenci na úrovni rozhodování povedou k jejímu nasazení všude, nejen u vlajkových chatbotů.
"Myslíme si, že všude bude chytrý software způsobem, který se bude objevovat a distribuovat... mnohem více jako raný internet, než víte, jako mega aplikace, které se lidé právě teď snaží vytvořit," řekl Almeida pro TechCrunch.
Otevřenou otázkou zůstává, zda následují konkurenti. "Měli jsme to vidět dříve v mnoha ohledech, ale pravděpodobně proto, že LLM jsou tak levné a dotované, často ještě nemusíte být kreativní," řekl Ronacher pro TechCrunch. TypeSafe plánuje další verze Jev v nových modalitách.
Pokud jde o to, zda se TypeSafe počítá jako hraniční laboratoř, Almeida nabídla ostrou odpověď: "Hlavním produktem hraničních laboratoří je strach nebo humbuk. Chtěl bych, aby naším hlavním produktem byla inteligence... [ale nejsme] laboratoř ve smyslu, víte, jako sázka na nekonečné bohatství nebo náboženství nebo budování Boha v datovém centru nebo co je dnešní věcí."
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
