Cloudflare объявила во вторник о предварительной версии Clairic, модели извлечения, которую компания описывает как первую из нового класса моделей «System One», предназначенных для извлечения структурированных значений из неструктурированных данных без какой-либо генерации токенов, которая определяет большие языковые модели. Модель доступна в предварительной версии на платформе Workers AI Cloudflare под именем @cf/cloudflare/clairic, и компания заявляет, что намерена открыто опубликовать вес модели в ближайшем будущем.
Запуск Cloudflare помещает Cloudflare прямо в одну из самых интересных дискуссий, которые сейчас меняют рынок инфраструктуры искусственного интеллекта: действительно ли каждая задача, назначенная LLM, нуждается в LLM. Подробнее об этой истории — в нашем последние разработки в ИИ.
Что делает Клайрик — и чего он намеренно не делает
Clairic создан для узкой, но чрезвычайно распространенной работы: чтения беспорядочных, неструктурированных входных данных и возврата типизированных значений. Согласно объявлению Cloudflare, модель может извлекать, вычислять, оценивать и прогнозировать значения из неструктурированных входных данных, возвращая числа с диапазоном 80%, типизированные значения, такие как имена, даты, время и списки, а также полные распределения вероятностей — каждое из которых имеет калиброванную достоверность.
Чего он не делает, так это генерирует текст. Запрос к Clairic возвращает либо значение типа, объявленного разработчиком, либо нулевой результат в сочетании с показателем p_null, который оценивает вероятность того, что ответ просто отсутствует во входных данных. Каждый ответ сопровождается оценкой достоверности, поэтому последующие системы могут решить, доверять ему или пометить его для проверки человеком.
Cloudflare открыто заявляет о компромиссе. Поскольку Clairic не генерирует токены, он не может генерировать искаженный JSON, неправильно читать цифры в середине поколения или выдавать галлюцинации ответ, как это может LLM. Она по-прежнему может совершать ошибки (компания в этом отношении осторожна), но ее неудачи носят типизированный и измеримый характер, а не произвольную форму.
Ярлык System One, объяснение
Терминология взята из AI-стартапа TypeSafe, который около месяца назад анонсировал свои собственные модели System One и быстро стал одним из самых обсуждаемых запусков в сообществе разработчиков. Формулировка заимствована из книги психолога Дэниела Канемана «Думай быстро и медленно»: мышление по Системе Один происходит быстро, автоматически и точно, а мышление по Системе Два — медленно и осознанно. TypeSafe отразила это различие на моделях искусственного интеллекта, утверждая, что многие производственные рабочие нагрузки требуют быстрых, хорошо типизированных ответов, а не открытых рассуждений.
Jev компании TypeSafe, модель принятия решений, специально созданная для конкретной области, принимала вероятности в качестве входных данных и возвращала вероятности в виде фиксированного списка возможных ответов. До сих пор это была целая категория: каждая модель System One была моделью принятия решений.
Клайрик расширяет эту концепцию. Если модель принятия решений выбирает один из предопределенных вариантов, модель извлечения отвечает значениями — числами, полученными непосредственно из входных данных, вычисленными на их основе или прогнозируемыми за их пределами. Cloudflare утверждает, что два семейства моделей, наряду с традиционными LLM, теперь образуют трехуровневый стек: модели извлечения преобразуют необработанные входные данные в типизированные значения, модели принятия решений преобразуют значения в решения, а LLM превращают решения в слова.
Почему экстракция созрела для переосмысления
Аргумент Cloudflare основан на том, какая часть сегодняшнего трафика LLM тратится на работу, которая совсем не похожа на разговор. Компания называет извлечение «вероятно, самой распространенной работой, выполняемой сегодня LLM» — извлечение из документа общей суммы счета, даты поставки или номера детали.
Проблема, по словам Cloudflare, заключается в том, что LLM выполняют эту работу с помощью оборудования, созданного для чего-то другого. Выходные данные могут быть недействительными в формате JSON. Цифра может быть неправильно прочитана при создании токенов. Возвращенный отрывок текста невозможно отследить до его местоположения в исходном документе. В ответ команды включают модели в защитные конвейеры: валидаторы схем, логику повторов, слои синтаксического анализа и выборочные проверки. А поскольку LLM взимает плату за рассуждения и токены вывода, каждое поле каждого документа несет в себе стоимость генерации, которая масштабируется в зависимости от многословности, а не сложности задачи.
Модель добычи System One переворачивает эту экономику. Cloudflare утверждает, что Clairic обрабатывает входные данные за один прямой проход, взимает плату только за входные токены и обычно отвечает менее чем за секунду, в то время как рассуждение LLM, работающее с теми же полями, может занять несколько секунд. При обработке больших объемов документов разница быстро увеличивается.
Как на самом деле работает запрос
Разработчики отправляют Clairic состояние — текст для чтения плюс до четырех дополнительных изображений — вместе с картой введенных полей. Каждое поле содержит имя, тип и дополнительные инструкции на простом языке. Модель возвращает один типизированный ответ на каждое поле, вычисляемый за один параллельный проход. Если список полей не помещается рядом с входными данными за один проход, сервер разбивает работу на параллельные проходы, каждый из которых видит полный ввод, а затем объединяет ответы.
Для задач оценки ответы представляют собой распределение: медиану с интервалом 80 %, охватывающую 10–90 процентили, при этом все 99 процентилей доступны по запросу. Это делает модель пригодной для решения вопросов в стиле прогнозирования — ожидаемые затраты на ремонт, сроки доставки, трафик на следующий день — где одноточечная оценка может преувеличить достоверность модели.
Сигнал для рынка инфраструктуры
Добьется ли успеха сама Клэрик, почти не имеет значения. Этот запуск является еще одним свидетельством быстрого перехода среди поставщиков инфраструктуры к моделям, подходящим для задач: небольшим, быстрым и дешевым моделям для узкоструктурированной работы, с передовыми LLM, зарезервированными для действительно открытых рассуждений. Собственная позиция Cloudflare — что модели извлечения, принятия решений и языка должны работать в унисон — воспринимается как образец того, как, по ее мнению, будут собираться производственные стеки ИИ.
Компания не объявила дату обещанного релиза в открытых весах. На данный момент Clairic доступен в предварительной версии на Workers AI, где разработчики могут протестировать его на своих собственных рабочих нагрузках по извлечению данных — и выяснить, какая часть их счета за LLM когда-либо была действительно необходима.
_Эта статья основана на официальном объявлении Cloudflare о предварительной версии модели извлечения Clairic._
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
