基准公司Artificial Analysis推出了第五版智能指数,称这是自一月份推出第四版以来综合模型排名的最大升级。标题变化是:该指数的 60% 首次建立在使用私人测试集或保留答案的评估基础上——这是对基准污染问题的直接回应,这些问题已经削弱了对公共排行榜的信任。

重组到来时,高层做出了明确的裁决。 Claude Opus 5.5(最大值)以 58 分领先 v5 指数,领先于 GPT-6 Astra(最大值)57 分和 GPT-6.1 Sol(最大值)55 分。Anthropic 和 OpenAI 共同占据前五名,谷歌的 Gemini 4 Argon(高)紧随其后,排名 50。 更多相关背景,请参阅我们的AI最新动态。

v5 中发生了什么变化

v5 指数分为四个同等权重的类别——知识工作、编码、科学和一般——每个类别的权重为 25%。两项基准测试是全新的,其中三项进行了重大升级:

  • FrontierCode 2.0(新)。 Cognition 对开源存储库中 132 个真实世界编码任务的私有基准,根据存储库维护者是否真正合并代理的更改进行评分。任务保持私密以避免污染,人工分析在其马镫代理工具中将每个任务运行三次。
  • Terminal-Bench-Science(新)。 在终端环境中执行 70 项代理科学研究任务,其中只有当每一项测试都通过时,任务才能通过。
  • HLE-Diamond(升级版)。 来自 AI 安全和规模 AI 中心的人类最后考试的 1,000 个问题的精炼版本,在推理和知识问题之间平均分配,取代了原来的 HLE。
  • AA-Omniscience v1.1(升级版)。 清理的知识和幻觉数据集,删除了饱和问题和公共问题。
  • CritPt v2 硬子集(升级版)。 研究级物理基准的私有 40 个问题硬子集,由其作者修订并通过代码执行运行。

从索引中消失:GDPval-AA v2.1、SciCode 和 AA-LCR v1.1。 Artificial Analysis 还推出了配套的 Progress Index v1,它可以在单一连续尺度上跟踪模型随时间的变化能力。

Claude Opus 5.5 总体领先

Claude Opus 5.5(最高)在九个单独评估中领先三个:FrontierCode 2.0 为 46%,HLE-Diamond 为 68%,AA-Omniscience v1.1 为 48。没有一个模型领先一切 - 其他五个模型领先于其余六个基准。

GPT-6 Astra(最大值)以 63% 领先于 Terminal-Bench-Science,以 72% 领先于 CritPt v2 硬子集,证实了 OpenAI 在长期科学工作中的实力。 Claude Sonnet 5.5 以 1812 Elo 领先 AA-Briefcase,Kimi 的 K3.1 Pro 以 67% 领先 Terminal-Bench 4.0,Gemini 4 Argon 以 78% 领先 AutomationBench-AA,Muse Wonder Full 以 33% 全通领先 GDP.pdf。

HLE-Diamond 结果包含一个有说服力的细节:领先模型在推理方面的得分远高于在知识方面的得分。 Claude Opus 5.5 和 GPT-6 Astra 在推理问题上都达到了 78%,但在知识方面分别下降到 58% 和 50%——这证明即使是前沿系统仍然比其推理得分所显示的更频繁地产生幻觉或缺乏事实。

开放重量差距三倍

对于开放权重生态系统来说,最发人深省的发现是:最佳开放模型与总体领先者之间的差距增加了两倍,从 v4.3 中的 3 分扩大到 v5 中的 12 分。

Kimi 的 K3.1 Pro 是顶级开放重量型号,重量为 46,但其重量尚未发布。在已发布权重的模型中,DeepSeek 的 V4.1 Flash 1017(最大)和 Z.ai 的 GLM-5.3(最大)以 32 领先,落后 Claude Opus 5.5 足足 26 个百分点,低于 Claude Haiku 5.5(最大)36。

在最严格的代理基准测试中,差距最大。在 HLE-Diamond 上,Kimi K3.1 Pro 的得分为 37%,而 Opus 5.5 的得分为 68%; Terminal-Bench-Science 的支持率为 34%,而 GPT-6 Astra 的支持率为 63%。大多数开放权重模型的科学基准分数低于 10%。

每项任务的价格相差十三倍

成本仍然是一个决定性的变量。在得分最高的 10 个模型中,GPT-6.1 Terra(最大)是最便宜的,每个智力指数任务为 0.96 美元,而 Claude Fable 5.1(最大)是最贵的,为 13.04 美元,相差超过 13 倍。

效率故事可以说是 v5 最实际的收获:GPT-6.1 Sol(最大)的得分与 Claude Opus 5.5 相差不到 4 分,而每项任务的成本约为其八分之一,为 1.27 美元,而 Opus 为 10.04 美元。 GPT-6 Astra(最大)介于两者之间,价格为 6.24 美元。

为什么私人基准很重要

向私人评估集的转变反映了一个全行业的问题:公共基准泄漏到训练数据中并饱和,使得排行榜的结果变得不可信任。在 FrontierCode 2.0 中,任务根据维护者是否合并变更进行分级(任何阻塞检查失败得分为零),并且任务列表保持私有。

这使得 v5 成为更难的基准之一,它的结论很有分量:前沿由 Anthropic 和 OpenAI 领导,工作量设置比以往任何时候都更重要,开放权重模型在日益定义现实世界人工智能工作的代理任务上有很大的基础。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →