На этой неделе дебютировал новый тип модели искусственного интеллекта, и он делает что-то необычное для модели, построенной на архитектуре трансформатора: он никогда не выдает ни слова текста. По данным TechCrunch, Jev, выпущенный двухлетним стартапом TypeSafe AI, вместо этого выводит калиброванные вероятности — то, что компания называет типизированными, калиброванными решениями — позиционируя себя как дешевую и быструю альтернативу большим языковым моделям для классификации, маршрутизации и автоматизации.

Компания была основана Диого Алмейдой, исследователем OpenAI, который помог создать ChatGPT и внес свой вклад в изобретение обучения с подкреплением на основе обратной связи от человека (RLHF), метода обучения, который, как многие считают, сформировал нынешнее поколение помощников ИИ. Спрос на новую модель был настолько велик, что TypeSafe на короткое время потеряла возможность обслуживать некоторых пользователей API после запуска. Подробнее об этой истории — в нашем новости об ИИ.

Почему пионер ChatGPT отказался от языка

Путь Алмейды к нетекстовой модели начался с разочарования в OpenAI. «У нас есть молния в бутылке, но она бесполезна», — сказал Алмейда TechCrunch, описывая свое разочарование тем, что, несмотря на возможности ChatGPT, технология не обеспечивает настоящей автоматизации. «С тех пор я боролся с этой проблемой. Мне потребовалось некоторое время, чтобы прийти к выводу: проблема в том, что мы оптимизируем человеческий язык… Мы очень хорошо разбираемся в человеческом языке уже четыре года, но он бесполезен для автоматизации, потому что компьютеры говорят на другом языке».

Два года назад Алмейда покинул OpenAI, чтобы основать TypeSafe AI и продолжить работу над этой диссертацией. Результатом является Jev, модель на основе преобразователя, которая, как утверждает компания, не является большой языковой моделью. Когда LLM генерирует открытый текст, Джев возвращает вероятности для набора выходных данных, которые пользователь определяет заранее — конструкция, по словам компании, делает галлюцинацию структурно невозможной, поскольку модель может отвечать только с теми вариантами, которые ей были предоставлены.

Повышение эффективности является основной частью презентации. По данным TechCrunch, выходные токены Jev бесплатны, а входные токены измеряются миллиардами, а не миллионами. Компания описывает Jev как «модель System One», ориентированную на интуицию, а не на рассуждения, и заявляет, что она обучалась исключительно на синтетических данных с использованием метода, который Алмейда называет обучением с подкреплением на основе выверенных решений.

TypeSafe держит архитектуру Jev в секрете, хотя сторонние наблюдатели подозревают, что система построена на основе LLM с открытым весом. «Половина [нашей компании] — это лаборатория, которая, по сути, владеет всей этой подобластью статистически хорошо понятных синтетических данных, и теперь это радость моей жизни», — сказал Алмейда TechCrunch.

Ранние результаты разработчиков: быстрее и дешевле

Первые пользователи сообщили о заметных успехах в тестировании. Пранит Шарма, инженер-программист из Vercel, рассказал TechCrunch, что его компания использовала ChatGPT Luna 5.6 от OpenAI для запуска классификатора, который проверяет команды на предмет безопасности. После переключения рабочей нагрузки на Jev Версель увидел результаты в 5–18 раз быстрее и с большей точностью.

Нихил Мудхолкар, технический директор Bryo AI, провел другое сравнение: классифицировал деловые электронные письма с Jev и Gemini от Google. В его тесте Gemini оказался немного точнее, но в 10–20 раз дороже. Для Мудхолкара самым ценным свойством Джева было умение справляться с неопределенностью. «Это единственный вариант, который возвращает реальную вероятность, что делает его идеальным для автоматизации рабочих процессов», — сказал он TechCrunch.

Агенты следят за агентами без счета

TypeSafe утверждает, что Джев может не только заменить LLM в задачах классификации, но и контролировать их. Использование агентов ИИ для мониторинга других агентов быстро становится дорогостоящим, но Алмейда утверждает, что скорость и профиль затрат Джева позволяют практически отслеживать следы агентов LLM и предотвращать взломы в режиме реального времени.

Армин Роначер, технический директор Earendil и создатель системы Pi с открытым исходным кодом, рассказал TechCrunch, что этот подход перекладывает ответственность за неопределенность на разработчика. «Он немного делегирует проблему галлюцинаций пользователю», — сказал Ронахер. «Пользователь должен сказать: хорошо, если это возвращается только с вероятностью 50%, возможно, это подбрасывание монеты, и я игнорирую это. Но если это 95%, конечно, тогда я могу что-то с этим сделать».

Ронахер также отметил маршрутизацию моделей как многообещающий вариант использования: прогнозирование, требует ли данная рабочая нагрузка конкретной, более дорогой модели. Выполнение такой сортировки с помощью LLM было бы дорогостоящим, но низкая задержка и цена Jev могут сделать маршрутизацию в реальном времени жизнеспособной.

Имя, заимствованное из экономики

Модель названа в честь Уильяма Стэнли Джевонса, экономиста XIX века, стоящего за парадоксом Джевонса — наблюдением о том, что по мере того, как товар становится дешевле, его потребление имеет тенденцию к росту. Алмейда делает ставку на то, что снижение стоимости интеллекта для принятия решений приведет к его внедрению повсюду, а не только во флагманских чат-ботах.

«Мы думаем, что умное программное обеспечение будет появляться повсюду, в таком виде, которое будет возникать и распространяться… больше похоже на ранний Интернет, чем на мегаприложения, которые люди пытаются создавать прямо сейчас», — сказал Алмейда TechCrunch.

Последуют ли конкуренты, остается открытым вопросом. «Мы должны были увидеть это раньше во многих отношениях, но, по-видимому, поскольку программы LLM настолько дешевы и субсидируются, вам часто еще не нужно проявлять творческий подход», — сказал Ронахер TechCrunch. TypeSafe планирует дополнительные версии Jev в новых модальностях.

Что касается того, считается ли TypeSafe передовой лабораторией, Алмейда дал резкий ответ: «Основной продукт передовых лабораторий — это страх или шумиха. Я бы хотел, чтобы нашим основным продуктом была разведка… [но мы] не лаборатория в том смысле, как, вы знаете, вроде ставки на бесконечное богатство, или религии, или создания Бога в центре обработки данных, или чего-то еще, что является предметом сегодняшнего дня».

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →