Цього тижня дебютувала нова модель штучного інтелекту, яка робить щось незвичне для моделі, побудованої на трансформаторній архітектурі: вона ніколи не створює жодного слова тексту. Jev, випущений дворічним стартапом TypeSafe AI, натомість виводить калібровані ймовірності — те, що компанія називає введеними, каліброваними рішеннями — позиціонуючи себе як дешеву, швидку альтернативу великим мовним моделям для класифікації, маршрутизації та автоматизації, повідомляє TechCrunch.
Компанію заснував Діого Алмейда, дослідник OpenAI, який допоміг розробити ChatGPT і зробив внесок у винайдення підкріпленого навчання на основі зворотного зв’язку людини (RLHF), методики навчання, яка широко вважається причиною формування нинішнього покоління помічників ШІ. Попит на нову модель був настільки високим, що TypeSafe ненадовго втратив можливість обслуговувати деяких користувачів API після запуску. For more context on this story, see our ongoing AI industry coverage.
Чому ChatGPT Pioneer Abandoned Language
Шлях Алмейди до нетекстової моделі почався з розчарування в OpenAI. «У нас є блискавка в пляшці, але вона не корисна», — сказав Алмейда TechCrunch, описуючи своє розчарування тим, що, незважаючи на можливості ChatGPT, ця технологія не досягла справжньої автоматизації. «Відтоді я борюся з цією проблемою. Мені знадобився деякий час, щоб дійти висновку: проблема полягає в тому, що ми оптимізуємо людську мову... Чотири роки ми надзвичайно добре володіємо людською мовою, але це не корисно для автоматизації, оскільки комп’ютери розмовляють іншою мовою».
Два роки тому Алмейда залишив OpenAI, щоб заснувати TypeSafe AI і продовжувати цю тезу. Результатом є Jev, модель на основі трансформатора, яка, як наполягає компанія, не є моделлю великої мови. Там, де LLM генерує відкритий текст, Jev повертає ймовірності через набір виходів, які користувач визначає заздалегідь — дизайн, за словами компанії, робить галюцинацію структурно неможливою, оскільки модель може відповідати лише за допомогою наданих варіантів.
Підвищення ефективності є ключовою частиною виступу. Вихідні токени від Jev безкоштовні, а вхідні токени вимірюються мільярдом, а не мільйоном, згідно з TechCrunch. Компанія описує Jev як «модель System One», зосереджену на інтуїції, а не на міркуванні, і каже, що її навчали виключно на синтетичних даних за допомогою техніки, яку Алмейда називає навчанням з підкріпленням на основі відкаліброваних рішень.
TypeSafe зберігав архітектуру Jev в таємниці, хоча сторонні спостерігачі підозрюють, що система побудована на основі відкритого LLM. «Половина [нашої компанії] — це лабораторія, яка фактично володіє всім цим підгалузем статистично добре зрозумілих синтетичних даних, і це тепер радість мого життя», — сказав Алмейда TechCrunch.
Перші результати для розробників: швидше та дешевше
Перші користувачі повідомили про значні успіхи в тестуванні. Праніт Шарма, інженер-програміст у Vercel, розповів TechCrunch, що його компанія використовувала ChatGPT Luna 5.6 від OpenAI для запуску класифікатора, який переглядає команди на предмет безпеки. Після перемикання робочого навантаження на Jev Vercel бачив результати в п’ять-вісім разів швидше та з більшою точністю.
Ніхіл Мудхолкар, технічний директор Bryo AI, провів інше порівняння: класифікував ділову електронну пошту з Jev та Gemini від Google. У його тесті Gemini був трохи точнішим, але в 10-20 разів дорожчим. Для Мадхолкара найціннішою властивістю Джева було його вміння справлятися з невизначеністю. «Це єдиний, який повертає реальну ймовірність, що робить його ідеальним для автоматизації робочих процесів», — сказав він TechCrunch.
Агенти спостерігають за агентами, без рахунку
Окрім заміни LLM у завданнях класифікації, TypeSafe стверджує, що Джев може контролювати їх. Використання агентів штучного інтелекту для моніторингу інших агентів швидко стає дорогим, але Алмейда стверджує, що швидкість і профіль витрат Джева дозволяють практично відстежувати сліди агентів LLM і запобігати джейлбрейку в режимі реального часу.
Армін Роначер, технічний директор Earendil і розробник моделі з відкритим кодом Pi, сказав TechCrunch, що цей підхід перекладає відповідальність за невизначеність на розробника. «Це дещо делегує проблему галюцинацій користувачеві», — сказав Роначер. «Користувач має сказати: гаразд, якщо це повертається лише з 50% ймовірністю, можливо, це підкидання монети, і я не звертаю на це увагу. Але якщо це 95%, звичайно, я можу з цим щось зробити».
Ронашер також відзначив маршрутизацію моделі як багатообіцяючий варіант використання: прогнозування того, чи потребує дане робоче навантаження конкретна, дорожча модель. Виконання такого сортування за допомогою LLM було б дорогим, але низька затримка та ціна Jev могли б зробити маршрутизацію в реальному часі життєздатною.
Назва, запозичена з економіки
Модель названа на честь Вільяма Стенлі Джевонса, економіста 19-го століття, який розробив парадокс Джевонса — спостереження про те, що коли товар дешевшає, його споживання має тенденцію зростати. Алмейда робить ставку на те, що падіння вартості інтелектуального рівня прийняття рішень призведе до його розгортання скрізь, а не лише у флагманських чат-ботах.
«Ми думаємо, що інтелектуальне програмне забезпечення з’являтиметься скрізь у такий спосіб, який з’являтиметься та поширюватиметься… більше схоже на ранній Інтернет, ніж мегадодатки, які люди намагаються створювати прямо зараз», — сказав Алмейда TechCrunch.
Питання, чи підуть конкуренти, залишається відкритим. «Багато в чому ми повинні були побачити це раніше, але, ймовірно, через те, що LLM такі дешеві та субсидовані, вам часто ще не потрібно проявляти креативність», — сказав Роначер TechCrunch. TypeSafe планує додаткові версії Jev у нових модальностях.
Щодо того, чи вважається TypeSafe передовою лабораторією, Алмейда запропонував однозначну відповідь: «Головним продуктом передових лабораторій є страх чи галас. Я хотів би, щоб нашим головним продуктом був інтелект... [але ми] не лабораторія в тому сенсі, як, знаєте, ставка на безмежне багатство, чи релігія, чи створення Бога в центрі обробки даних, чи що завгодно сьогоднішнє».
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
