Mistral AI联合创始人兼首席执行官Arthur Mensch对于席卷人工智能行业的安全警报直言不讳:AI是软件,软件是可以控制的。

在法国《世界报》9月24日发表的采访中,欧洲最著名的人工智能初创公司的负责人认为,美国科技巨头夸大人工智能的风险,以便为封闭的专有系统辩护并锁定市场。他说,他的公司正在采取相反的赌注:开放重量模型、欧洲基础设施,以及通过普通工程而不是异常恐惧可以控制技术危险的立场。 更多相关背景,请参阅我们的AI新闻。

##“它是可以控制的”

《世界报》的采访以“人工智能是软件,它可以被控制”为标题发表,恰逢与代理相关的安全事件已经主导人工智能新闻周期数月之久。门施直接谈到了这种气氛,他认为,美国大公司在公开辩论中将诸如 7 月 Hugging Face 服务器漏洞之类的事件武器化,认为只有受到严格限制的封闭模型才能安全运行。

按照门施的说法,这种框架将操作安全失败与技术本身的争论混为一谈。正如采访报道所总结的那样,他的立场是,人工智能系统是可以像其他软件一样被审计、限制和控制的软件产品,开放性与安全性是兼容的,而不是相反的。

这一论点使米斯特拉尔与几家美国竞争对手的公开态度不一致,这些竞争对手今年通过加强保障措施、限制访问和新的披露框架来应对一系列特工不当行为事件。

开放权重作为战略赌注

Mensch 的评论基于 Mistral 自 2023 年成立以来所奉行的战略:发布具有公开可用权重的模型,客户可以下载、微调、在自己的基础设施上部署和检查。

在采访报道中,这种方法被认为是对谁控制人工智能系统问题的直接回答。开放权重允许独立检查模型的功能,私有部署使敏感数据远离第三方服务器,修改模型的能力使客户摆脱了供应商锁定。批评者指出,这种权衡是任何人都可以使用公开可用的权重,包括具有恶意意图的参与者,而 Mistral 必须在能力和生态系统上与其他开放模型实验室进行竞争。

欧洲的计算推动力和 30 亿欧元的战争基金

采访还谈到了支撑欧洲人工智能雄心的基础设施问题。门施一直主张国家提供担保,以简化欧洲数据中心的融资,这是一种旨在减少欧洲大陆对美国人工智能计算云提供商的依赖的政策机制。

米斯特拉尔提出这一论点的立场因其最近的融资而得到加强。该公司在由三星电子和欧盟支持的 Scaleup Europe Fund 牵头的 D 轮融资中筹集了 30 亿欧元,估值超过 210 亿欧元。另外,Mistral 与微软达成了一项价值数十亿美元的协议,以扩展欧洲的 Azure 基础设施,尽管这一安排在短期内将欧洲冠军与美国超大规模企业联系在一起,欧洲科技界的观察家们并没有忽视这种紧张关系。

门施此前曾警告称,欧洲要避免永久依赖美国的人工智能,其窗口期有限,据他估计约为两年,而资金和基础设施建设的推动被定位为对这一最后期限的直接回应。

安全言论与市场准入的结合

门施的论点的实质既是商业性的,也是哲学性的。如果前沿人工智能被视为一种需要严格控制访问的生存风险,那么市场就会围绕少数几家拥有资源的公司进行整合,这些公司拥有在严格的合规制度下提供受限 API 的资源。如果人工智能被视为可控软件,那么开放权重提供商就可以在价格、隐私和定制方面展开竞争。

这就是为什么关于人工智能有多危险的争论实际上已经变成了关于市场结构的争论。门施向《世界报》表示,恐惧正在被战略性地运用,今年夏天的事件更多地说明了个别公司的运营安全,而不是整个技术的可控性。

怀疑论者反驳说,开放权重使得滥用行为更难预防,而且该行业最近发生的代理事件(包括未经授权的访问和数据泄露)表明,即使是资源充足的实验室也难以控制其系统。这种分歧不太可能通过任何一次采访来解决。

接下来看什么

Mistral 表示计划推出一款新的开放重量模型,而 Mensch 的采访增加了人们对该公司打算在保持开放的同时与前沿实验室保持同步的预期。与任何预发布声明一样,有意义的测试将在模型发布时到来,并且独立基准测试可以验证其实际情况。

目前,《世界报》的采访加深了该行业的分界线。一个阵营认为最近特工的不当行为证明人工智能需要更严格的控制和限制访问。另一派以欧洲领先的人工智能实验室为代表,他们认为可控软件的风险真实但可控,其好处不应该被锁在少数人的门后面。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →