谷歌周二推出了 Gemini Decisions API,这是一个为快速、封闭集决策而构建的新端点,由名为 Gemini Decision 1 (gemini-decision-1) 的专用模型提供支持。根据谷歌的公告,该 API 现已通过 Google AI Studio 中的 Gemini API 提供。
其说法很简单:大量的人工智能工作不需要一个会写论文的模型。工具选择、策略检查、模型路由和上下文分级都是有限的选择,而对于这些选择,生成文本生成速度慢、成本高且校准不佳。相反,Decisions API 会获取您的候选选项并对它们进行评分,返回概率和置信度分数,而不是生成的答案文本。
有关此类开发人员工具的更多背景信息,请关注我们的 AI 工具报道。
一次输入,最多 1,000 个问题,一次前向传递
API 的输入模型很不寻常,而且是有意为之。开发人员在单个请求中传递一个多模式输入(文本、图像、音频、视频或 PDF,上下文最多 256K 个令牌)以及最多 1,000 个独立问题。问题可以针对同一共享输入混合是/否检查、多项选择和评分标准。
由于 Gemini Decision 1 在单次前向传递中对候选选项进行评分,而不是逐一解码标记,因此 Google 报告中值模型计算时间为 50-100 毫秒,端到端延迟为 150-250 毫秒。该公司表示,随着每个请求的问题从 1 个扩展到 100 个,性能几乎保持不变,并且无论有多少问题评估共享输入,都会对共享输入进行一次计费。
定价:永远没有输出代币
Gemini Decision 1 的定价为每 100 万个输入代币 0.10 美元,输出代币费用为零——这与生成式 API 存在显着的结构差异,生成式 API 中输出代币通常在账单中占主导地位。谷歌表示,这使得决策 API 在其共享基准套件中比通过交互 API 使用的 Gemini 3.5 Flash-Lite 便宜近 5 倍,并且没有单独的音频转录或 OCR 费用。 Google AI Studio 中提供免费层用于原型设计。
校准是标题声明
谷歌的公告首先提出了一个关于校准的声明:在跨越代理路由、推理、排名和多模式理解的基准测试中,该公司表示,Gemini Decision 1 在校准误差最低的套件中处于领先地位。每个答案都带有从 0 到 1 的置信度分数,因此应用程序代码可以将不明确的案例路由到后备模型或人工审阅者,而不是信任低置信度分类。
校准很重要,因为路由故障会在代理系统中复合。一个高度自信地选择了错误工具的智能体会默默地失败;知道何时不确定的代理可以优雅地降级。将校准后的置信度与分类本身一起作为一流的 API 输出,可以说是此次发布中最具生产意识的部分。
单次原生多模态
该模型基于 Gemini 的原生多模式架构而构建,可在一次前向传递中直接处理文本、图像、音频、视频和 PDF。谷歌的例子展示了实践中的混合模式:将通话录音与帐户元数据配对,或将扫描的 PDF 保险索赔与损坏照片配对,并调整图像和视频输入的分辨率以平衡视觉细节与代币成本。
该公司还强调了内部采用。谷歌表示,整个公司的团队已经使用 Decisions API 作为低延迟控制平面,通过定义选项而不是训练自定义分类器来提供功能,其中包括 Stitch Rapid,该公告称其使用 API 在几秒钟内设计整个产品流程。
从第一天起就提供生态系统支持
谷歌在发布日列出了 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode 的集成,以及适用于 Python、JavaScript 和 REST 的 google-genai SDK。据公告称,Google Cloud 对 Gemini 的支持即将推出。
开发人员今天可以使用 Google AI Studio 中的 API 密钥开始,Google 发布了演示应用程序(Doorstep Parcels、Speed Sketch 和 Find the Zoo Keeper)来展示实际的请求模式。
为什么这对代理经济很重要
Decisions API 的目标是新兴代理堆栈中最不引人注目但使用最频繁的层:代理在每个任务中做出数十次持续的小决策。如果路由、策略检查和上下文分级可以在可预测的定价下以 150-250 毫秒的速度运行,那么长期运行的代理工作流程的经济性就会发生重大变化——决策层不再是生成模型的瓶颈,而是变得更接近传统基础设施。
通过将前沿实验室的多式联运功能附加到商品价格点上,此次发布还强化了谷歌相对于构建专用分类和路由模型的竞争对手的定位。它还表明谷歌认为 API 市场正在分裂:用于开放式工作的生成模型,用于保持代理系统正常运行的有界、大容量检查的决策模型。随着采用率的增长,独立基准测试是否证实校准声明将成为值得关注的指标。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →