Cloudflare 周二宣布推出 Clairic 预览版,这是一种提取模型,该公司将其描述为新型“System One”模型中的第一个模型,旨在从非结构化数据中提取结构化值,而无需定义大型语言模型的逐个令牌生成。该模型现已在 Cloudflare 的 Workers AI 平台上提供预览版,名称为 @cf/cloudflare/clairic,该公司表示打算在不久的将来公开发布该模型的权重。
此次发布将 Cloudflare 置于目前正在重塑人工智能基础设施市场的更有趣的争论之一:分配给法学硕士的每项任务是否实际上都需要法学硕士。 更多相关背景,请参阅我们的AI行业报道。
Clairic 做什么——以及它故意不做什么
Clairic 是为一项狭窄但极其常见的工作而构建的:读取杂乱的、非结构化的输入并返回键入的值。根据 Cloudflare 的公告,该模型可以从非结构化输入中提取、计算、估计和预测值,返回 80% 范围内的数字、名称、日期、时间和列表等键入值,以及完整的概率分布,每个分布都具有校准的置信度。
它不做的是生成文本。对 Clairic 的查询返回开发人员声明的类型的值,或者返回与 p_null 分数配对的 null 结果,该分数估计答案根本不存在于输入中的概率。每个答案都附带一个置信度分数,以便下游系统可以决定是否信任它或将其标记为供人工审核。
Cloudflare 明确说明了这种权衡。由于 Clairic 不生成令牌,因此它不会生成格式错误的 JSON、误读中间生成的数字,也不会像法学硕士那样产生幻觉答案。它仍然可能会犯错误——该公司在这一点上很谨慎——但它的失败是类型化的、可衡量的,而不是自由形式的。
“系统一”标签的解释
该术语来自人工智能初创公司 TypeSafe,该公司大约一个月前发布了自己的 System One 模型,并迅速成为开发者社区中讨论最多的产品之一。这个框架借鉴了心理学家丹尼尔·卡尼曼的《思考,快与慢》一书:系统一的思维是快速、自动和精确的,而系统二的思维是缓慢和深思熟虑的。 TypeSafe 将这种区别映射到人工智能模型上,认为许多生产工作负载需要快速、类型良好的答案,而不是开放式推理。
TypeSafe 的 Jev 是一种专为特定领域构建的决策模型,它将概率作为输入,并返回可能答案的固定列表的概率。到目前为止,这就是整个类别:每个 System One 模型都是一个决策模型。
克莱里克扩展了这个概念。当决策模型在预定义的选项中进行选择时,提取模型会给出值——直接从输入中提取的数字、根据输入计算的数字或超出输入的预测的数字。 Cloudflare 表示,这两个模型系列与传统的法学硕士现在形成了一个三层堆栈:提取模型将原始输入转换为键入的值,决策模型将值转换为决策,法学硕士将决策转换为文字。
为什么重新思考萃取技术已经成熟
Cloudflare 的论点在于,当今的 LLM 流量有多少花在了看起来完全不像对话的工作上。该公司称提取“可能是当今法学硕士最常见的工作”——从文档中提取发票总额、交货日期或零件编号。
根据 Cloudflare 的说法,问题在于法学硕士用为其他事情构建的机器来处理这项工作。输出可能不是有效的 JSON。生成令牌时可能会误读数字。返回的文本摘录无法追溯到其在源文档中的位置。团队通过将模型包装在防御性管道中来做出响应:模式验证器、重试逻辑、解析层和抽查。由于法学硕士对推理和输出令牌进行计费,因此每个文档的每个字段都会产生生成成本,该成本会随着详细程度而不是任务的难度而增加。
系统一提取模型颠倒了这种经济学。 Cloudflare 表示,Clairic 通过一次前向传递处理输入,仅对输入令牌收费,并且通常在一秒内做出响应,而处理相同字段的推理 LLM 可能需要几秒钟的时间。对于大容量文档处理,差异很快就会复合。
请求的实际工作原理
开发人员向 Clairic 发送一个状态——要阅读的文本,加上最多四个可选图像——以及键入字段的地图。每个字段都带有名称、类型和可选的简单语言指令。该模型为每个字段返回一个键入的答案,并在单次并行传递中计算。如果字段列表不适合一次传递中的输入,服务器会将工作拆分为并行传递,每个传递都会看到完整的输入,然后合并答案。
对于估计任务,答案以分布形式出现:中位数的间隔为 80%,跨越第 10 个百分位数到第 90 个百分位数,所有 99 个百分位数可根据要求提供。这使得该模型可用于预测类型的问题——预期的维修成本、交付时间表、第二天的流量——其中单点估计会夸大模型的确定性。
基础设施市场的信号
克莱里克本身是否成功几乎不是重点。这次发布是基础设施提供商快速转变的另一个数据点,即为任务调整合适的模型:用于狭窄结构化工作的小型、快速、廉价的模型,并为真正开放式推理保留前沿法学硕士。 Cloudflare 自己的定位——提取、决策和语言模型应该协同工作——可以理解为它认为如何组装生产 AI 堆栈的蓝图。
该公司尚未宣布承诺的公开重量级发布的日期。目前,Clairic 在 Workers AI 上提供预览版,开发人员可以根据自己的提取工作负载对其进行测试,并了解他们的 LLM 账单中有多少是真正必要的。
_本文基于 Cloudflare 官方发布的 Clairic 提取模型预览版。_
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →