Mistral AI 周二发布了 Voxtral 3,这是一个新的语音模型系列和语音代理 SDK,这家法国人工智能公司表示,它在单个实时流管道中结合了聆听、推理、工具调用和语音合成。该版本发布在 Mistral 的官方博客上,主要针对联络中心、服务台、虚拟助理和免提副驾驶——语音人工智能市场的这些部分,延迟和准确性直接影响呼叫者是否挂断电话。

该公告与米斯特拉尔网站上的现场演示同时发布,显示代理用法语处理口头请求:呼叫者读出她医生的推荐信,代理将其转录,调用预订工具并确认预约 - 在对话中切换语言。 更多相关背景,请参阅我们的AI行业报道。

米斯特拉尔实际运送了什么

Voxtral 3 不是单一型号,而是一个堆栈。语音到文本方面由 Voxtral Small Transcribe 3 主导,Mistral 将其描述为多语言转录、说话者二值化和上下文偏差方面最先进的技术。语言支持现在涵盖 50 种语言,包括所有 24 种欧盟官方语言以及该公司所说的许多资源匮乏的亚洲和印度语言。

三个能力得到特别强调。分类可以识别多发言者音频中谁说了什么。上下文偏差让开发人员可以输入关键术语——产品名称、药品代码、技术词汇——这样转录员就可以回忆起特定领域的单词,而无需进行微调。回合结束检测让代理知道发言者何时实际结束,因此它可以做出响应,而不会出现尴尬的延迟或中断。

在生成方面,Voxtral Mini TTS 3 引入了根据对话上下文调整情感、节奏和重点的语音,支持超过 35 种语言和超过 50 种方言。单独的 Pro Voice 适应功能可以通过仅 30 分钟的参考音频再现特定说话者的声音特征和跨语言的说话风格,这种功能接近于语音克隆,并且可能会引起同意方面的审查。

基准声明和定价

根据公告,Voxtral Small Transcribe 3 在人工分析基于 FLEURS 的多语言转录和分类评估方面优于 OpenAI 的 Whisper、亚马逊的 Scribe v2 和 Gemini 3.5 Transcribe,强制和推断设置的单词错误率处于低个位数。与往常一样,供应商发布的基准测试值得独立确认,但这一声明将 Mistral 的转录器置于拥挤的多语言包的前面。

定价很激进。较小的转录器是一个包含 40 亿参数的模型,每分钟音频的成本为 0.0035 美元,远远低于典型的企业转录预算,并且可以承受大容量的联络中心工作负载。

SDK 本身就是结缔组织:它公开了一条管道,其中转录、推理模型、工具调用业务系统以及语音合成作为一个流会话运行。在 Mistral 的演示中,代理检索预订系统,执行工具调用来预订时段,并进行确认——所有这些都是在实时对话期间进行的。

主权就是推销词

米斯特拉尔非常依赖部署控制。 Voxtral 3 现已通过 Mistral 的欧盟托管 API 提供,也可在客户基础设施上自行部署,让组织决定在何处处理音频、如何处理数据以及是否保留对话。

这个框架并非偶然。欧洲医院、银行和公共机构面临着有关语音数据的严格规定,而美国超大规模企业托管的语音 API 在需要数据驻留的采购流程中面临阻力。 Mistral 围绕“主权人工智能”打造了自己的品牌,并将 Voxtral 3 定位为通过欧洲法律审查的语音堆栈。

为什么语音代理仍然很难

在其公告中,米斯特拉尔明确地阐述了这个问题:一个可靠的语音代理需要同时完成四件困难的事情。它必须能够准确地聆听各种语言、口音、说话者和干扰;深入推理用户在特定上下文中的含义;说话自然,情感丰富,表情丰富;并在互联系统中跨多个步骤采取行动。每个问题都已通过某种产品或其他产品单独解决。让这四个人通过现场电话实时一起工作仍然很少见。

任何拨打过自动电话线的人都熟悉这种故障模式:代理与呼叫者交谈,因为它错误地判断了句子是否已完成,或者它正确地转录了药物名称,但由于缺乏与调度系统的连接而无法采取行动。通过将回合结束检测、上下文偏差和工具调用打包为一个 SDK 的一流部分,而不是将单独的产品拼接在一起,Mistral 相信集成的简单性(而不仅仅是原始模型质量)才是将语音 AI 试点转变为部署的原因。

拥挤、快速变化的市场

Decoder 将此次发布描述为“实时聆听、思考和对话的完整语音代理堆栈”,该发布立即引起了 Hacker News 的关注,在几个小时内就获得了 380 多个点。语音人工智能已经成为人工智能堆栈中最具争议的层之一,每个主要实验室都提供语音到语音模型,并且一波初创公司在其上构建代理框架。

至少在纸面上,Voxtral 3 的独特之处在于开放部署选项、商品级别的每分钟定价以及语音循环内的本机工具调用(而不是事后附加)的组合。基准测试是否能在生产噪音(口音、电话线音频、重叠扬声器)中保持领先地位,将决定联络中心买家是否真正更换。

对于 Mistral 来说,此次发布也为公司的繁忙阶段画上了圆满的句号:发布了 Timestral 时间序列预测模型,加深了与 CERN 在物理人工智能方面的合作关系,并寻求据称达到数百亿欧元的估值。可靠的语音堆栈为该公司提供了一个解决方案,帮助企业买家获得完整的堆栈(文本、代码和现在的语音),而无需通过美国提供商路由所有内容。

_本文基于 Mistral AI 官方 Voxtral 3 公告以及 Hacker News 上的社区讨论。_

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →