W tym tygodniu zadebiutował nowy rodzaj modelu sztucznej inteligencji, który robi coś niezwykłego jak na model zbudowany na architekturze transformatora: nigdy nie generuje ani słowa tekstu. Jev, wydany przez dwuletni start-up TypeSafe AI, zamiast tego generuje skalibrowane prawdopodobieństwa – co firma nazywa „wpisanymi na maszynie, skalibrowanymi decyzjami” – pozycjonując się jako tania, szybka alternatywa dla dużych modeli językowych do klasyfikacji, routingu i automatyzacji, według TechCrunch.

Firma została założona przez Diogo Almeidę, badacza OpenAI, który pomógł zbudować ChatGPT i przyczynił się do wynalezienia uczenia się przez wzmacnianie na podstawie informacji zwrotnych od ludzi (RLHF), techniki szkoleniowej powszechnie uznawanej za kształtującą obecną generację asystentów AI. Popyt na nowy model był na tyle duży, że po uruchomieniu TypeSafe na krótko utracił możliwość obsługi niektórych użytkowników API. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Dlaczego pionier ChatGPT porzucił język

Droga Almeidy do modelu nietekstowego rozpoczęła się od rozczarowania w OpenAI. „Mamy błyskawicę w butelce, a mimo to nie jest ona przydatna” – powiedział Almeida TechCrunch, opisując swoją frustrację związaną z faktem, że pomimo możliwości ChatGPT, technologii tej nie udało się zapewnić prawdziwej automatyzacji. „Od tego czasu walczę z tym problemem. Dojście do wniosku zajęło mi trochę czasu: problem polega na tym, że optymalizujemy język ludzki... Od czterech lat jesteśmy bardzo dobrzy w posługiwaniu się językiem ludzkim, ale nie jest to przydatne w automatyzacji, ponieważ komputery mówią innym językiem”.

Dwa lata temu Almeida opuścił OpenAI, aby założyć TypeSafe AI i kontynuować tę pracę. W rezultacie powstał Jev, model oparty na transformatorze, który według firmy nie jest modelem o dużej liczbie języków. Tam, gdzie LLM generuje tekst otwarty, Jev zwraca prawdopodobieństwa dla zestawu wyników, który użytkownik z góry definiuje — według firmy projekt ten sprawia, że ​​halucynacje są strukturalnie niemożliwe, ponieważ model może odpowiedzieć tylko na podstawie podanych mu opcji.

Wzrost wydajności jest kluczową częścią boiska. Według TechCrunch tokeny wyjściowe Jev są bezpłatne, a tokeny wejściowe są liczone w miliardach, a nie milionach. Firma opisuje Jeva jako „model Systemu Pierwszego” skupiający się raczej na intuicji niż na rozumowaniu i twierdzi, że był szkolony wyłącznie na danych syntetycznych przy użyciu techniki, którą Almeida nazywa uczeniem się przez wzmacnianie na podstawie skalibrowanych decyzji.

TypeSafe trzyma architekturę Jeva w tajemnicy, chociaż zewnętrzni obserwatorzy podejrzewają, że system jest zbudowany na bazie otwartego LLM. „Połowa [naszej firmy] to laboratorium, do którego w zasadzie należy cała ta poddziedzina statystycznie dobrze rozumianych danych syntetycznych i to jest teraz moja życiowa radość” – Almeida powiedziała TechCrunch.

Wczesne wyniki programistów: szybciej i taniej

Pierwsi użytkownicy odnotowali znaczne postępy w testowaniu. Pranit Sharma, inżynier oprogramowania w firmie Vercel, powiedział TechCrunch, że jego firma korzystała z ChatGPT Luna 5.6 należącej do OpenAI do uruchamiania klasyfikatora przeglądającego polecenia pod kątem bezpieczeństwa. Po przeniesieniu tego obciążenia na Jeva Vercel uzyskał wyniki od pięciu do 18 razy szybciej i z większą dokładnością.

Nikhil Mudholkar, dyrektor ds. technicznych Bryo AI, przeprowadził inne porównanie: klasyfikując biznesowe e-maile wysyłane przez Jeva i Gemini firmy Google. W swoim teście Gemini był nieco dokładniejszy, ale 10 do 20 razy droższy. Dla Mudholkara najcenniejszą właściwością Jeva było radzenie sobie z niepewnością. „To jedyny, który podaje rzeczywiste prawdopodobieństwo, co czyni go idealnym do automatyzacji przepływów pracy” – powiedział TechCrunch.

Agenci obserwują agentów, bez rachunku

TypeSafe twierdzi, że Jev nie tylko zastępuje LLM w zadaniach klasyfikacyjnych, ale także może je nadzorować. Używanie agentów AI do monitorowania innych agentów szybko staje się kosztowne, ale Almeida twierdzi, że szybkość i profil kosztów Jeva umożliwiają śledzenie śladów agentów LLM i zapobieganie włamaniom z więzienia w czasie rzeczywistym.

Armin Ronacher, dyrektor ds. technologii w Earendil i twórca modelu uprzęży Pi o otwartym kodzie źródłowym, powiedział TechCrunch, że takie podejście przenosi odpowiedzialność za niepewność na programistę. „To w pewnym stopniu deleguje problem halucynacji na użytkownika” – powiedział Ronacher. „Użytkownik musi powiedzieć: OK, jeśli prawdopodobieństwo wyniku wynosi tylko 50%, może to być rzut monetą, ale ja to lekceważę. Ale jeśli to oczywiście jest 95%, to mogę coś z tym zrobić”.

Ronacher wskazał także routing modelu jako obiecujący przypadek użycia: przewidywanie, czy dane obciążenie wymaga określonego, droższego modelu. Sortowanie za pomocą LLM byłoby kosztowne, ale niskie opóźnienia i cena Jeva mogłyby sprawić, że routing w czasie rzeczywistym stanie się opłacalny.

Nazwa zapożyczona z ekonomii

Model został nazwany na cześć Williama Stanleya Jevonsa, XIX-wiecznego ekonomisty stojącego za paradoksem Jevonsa – obserwacją, że w miarę jak towar staje się tańszy, jego konsumpcja ma tendencję do wzrostu. Almeida zakłada, że ​​spadające koszty inteligencji decyzyjnej doprowadzą do jej wdrożenia wszędzie, a nie tylko we flagowych chatbotach.

„Uważamy, że wszędzie będzie dostępne inteligentne oprogramowanie, które będzie powstawać i być rozpowszechniane… znacznie bardziej przypominające wczesny Internet niż wielkie aplikacje, które ludzie próbują obecnie tworzyć” – Almeida powiedział TechCrunch.

Pytaniem otwartym pozostaje, czy konkurenci podążają za nimi. „Pod wieloma względami powinniśmy byli to zauważyć wcześniej, ale prawdopodobnie dlatego, że studia LLM są tak tanie i dotowane, często nie trzeba jeszcze wykazywać się kreatywnością” – Ronacher powiedział TechCrunch. TypeSafe planuje dodatkowe wersje Jev w nowych modalnościach.

Jeśli chodzi o to, czy TypeSafe można uznać za laboratorium pionierskie, Almeida udzieliła ostrej odpowiedzi: „Głównym produktem laboratoriów pionierskich jest strach lub szum. Chciałbym, aby naszym głównym produktem była inteligencja… [ale my] nie jesteśmy laboratorium w sensie, no wiesz, jak stawianie na nieskończone bogactwo, religię czy budowanie Boga w centrum danych czy czymkolwiek innym dzisiaj”.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →