Artificial Analysis Intelligence Index v5:60%权重首压私有测试集

资讯 IT之家 全文 2210 字 · 约 6 分钟读完 配图 10 张 分类IntelligenceDeepSeek开源模型深度求索开源产品更新

Artificial Analysis 重构 Intelligence Index v5 基准,60% 评测权重采用私有测试集减少跑分注水。DeepSeek V4.1 Flash 在 FrontierCode 2.0 单项得分 28%,为已发布开源模型最高。#DeepSeek#AI 基准测试

所属频道 产品更新开源生态

Artificial Analysis 在 10 月 29 日的前一天推出 Intelligence Index v5。这是该机构 2026 年 1 月 v4 上线至今动作最大的一轮基准重构。

改动最直接的一点:60% 的评测权重头一回压在私有测试集或隐藏答案上。这么做是为了压缩公开题库被模型训练数据“污染”的余地,也让厂商为刷分而设的“注水”项目少了下来。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

指数仍由九项评测组成,知识工作、编码、科学、通用能力各占 25%。编码这 25% 里,Cognition 同日发布的 FrontierCode 2.0 拿走 15%,Terminal-Bench 4.0 占 10%。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

变化最大的是 FrontierCode 2.0,评分逻辑整个换掉了。132 项任务清一色取自真实开源仓库;模型交上来的代码改动,不再只看单元测试过不过,改由仓库维护者按“是否愿意合并这个 PR”打分。任何一项阻塞性检查失败,直接记零分。

Cognition 6 月发布 FrontierCode 初版时说过,传统基准只管代码能不能跑通,可合并决策还牵扯改动范围是否克制、风格跟代码库合不合、回归风险可不可控,这些维度测试覆盖不全。v5 把该基准升到 2.0 并放进主指数,相当于把“可合并性”摆到了编码能力评价的正中央,而不是“可运行性”。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

按这套口径,DeepSeek V4.1-Flash 1017(max)在 FrontierCode 2.0 上拿到 28%,在已发布权重的模型里排第一。

Kimi K3.1 Pro 以 25.5% 排在后面。不过按月之暗面官方博客的说法,它的完整权重要到 11 月 4 日前才放出,AA 在 v5 报告里给它标了“weights not yet released”。

谷歌 Gemini 4 Argon(high)是 25.7%,GPT-6 Luna 是 25.2%,都低于 DeepSeek V4.1 Flash。需要说明,这只是 FrontierCode 2.0 单项的成绩;放到 Intelligence Index v5 综合得分上,DeepSeek V4.1 Flash 与 GLM-5.3 同为 32 分,比榜首 Claude Opus 5.5(58 分)低 26 分,也低于 Claude Haiku 5.5 的 36 分。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

Artificial Analysis 认为,v5 真正拉大的是开源与闭源前沿之间的整体距离。v4.3 那会儿,最强开源模型跟榜首差 3 分;v5 把大部分公开题换成私有题,又大幅加重智能体实战任务的比重,差距变成 12 分。Kimi K3.1 Pro 以 46 分成为名义上最强的开源权重模型,可权重还没发布;已发布权重的模型里,32 分就是眼下天花板。

差距在 HLE-Diamond 和 Terminal-Bench-Science 两项上最扎眼:Kimi K3.1 Pro 分别是 37% 和 34%,Claude Opus 5.5 在 HLE-Diamond 上是 68%,GPT-6 Astra 在 Terminal-Bench-Science 上是 63%。

开源模型并没有被 v5 弄得“一夜变差”。变的是测量的东西——题目不再公开、评分不再只看通过率,靠公开题库优化出来的分数就被系统性地挤掉了水分。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

v5 放大的另一个变量是“努力值”(思考等级)带来的成本优势。Claude Opus 5.5 从低努力档到 max 档跨了 23 分,单任务成本从 0.98 美元涨到 10.04 美元,相差约 10 倍。

Claude Sonnet 5.5 在不同努力档之间的分差,从 v4.3 的 20 分扩大到 29 分;GPT-6.1 Sol 的跨度翻倍到 20 分。同一个模型在“省钱模式”和“全力模式”下表现差这么远,已经不太像一个模型了。

得分最高的十款模型里,GPT-6.1 Terra 每任务成本最低,0.96 美元;Claude Fable 5.1 最高,13.04 美元,相差超过 13 倍。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

同步推出的 Progress Index v1 处理的是另一个问题:基准隔几个月就换一版,不同年代的模型怎么放到同一把尺子上比。Progress Index 把 2022 年 11 月以来发布的主要语言模型映射到一条连续的能力尺度上,方法上参考了 Epoch AI 的 Epoch Capabilities Index。Intelligence Index 继续衡量“当下前沿”,Progress Index 用来看“能力随时间怎么演进”,两者回答的不是同一件事。

其实 v5 的九项评测里,没有哪个模型项项领先:Claude Opus 5.5 拿下 FrontierCode 2.0、HLE-Diamond 和 AA-Omniscience 三项,GPT-6 Astra 在 Terminal-Bench-Science 和 CritPt v2 困难子集上居首,Kimi K3.1 Pro 在 Terminal-Bench 4.0 上以 67% 领先。单项优势这么分散,比总分排名更值得看。

Artificial Analysis Intelligence Index v5 基准上线,DeepSeek V4.1 Flash 1017 为 FrontierCode 2.0 开源模型最高成绩

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. DSH测试文件“泄密”,DeepSeek V5就要来了?

    DeepSeek Harness的官方GitHub代码仓库里出现了三个DeepSeek此前从未公开过的模型,分别为deepseek-v5、deepseek-v5-open、deepseek-v5-next。这段代码来自于DSH里账号登录通路的测试文件provider.spec.ts。用户登录账号后,客户端会向服务端的/

    来源 腾讯网
  2. StartLux开源Prism推理引擎:单卡H200提速最高5.3倍

    作者 | 蔡芳芳最近,两家中国 AI 公司相继开源针对自家模型优化的推理系统。10 月 20 日,DeepSeek 开源面向自家模型的推理框架 DeepInfer;随后,StartLux 也宣布开源为 StartLux-Decision 设计的专用推理引擎 StartLux-Prism。两家公司的技术路线虽然不同,但都

    来源 腾讯网
  3. DeepSeek V4.1-Flash-1017登顶周调用量:中国AI包揽全球前五

    最新行业数据显示,上周全球AI大模型总调用量达到188万亿Token,环比增长14.63%。其中,中国AI大模型周调用量为93.54万亿Token,环比增长18.14%,连续二十六周超越美国,稳居全球首位;同期美国AI大模型周调用量则为22.47万亿Token,环比增长29.44%。 从具体的模型表现来看,上周全球调用

    来源 AI 开发者社区
  4. 商务部AI出口管制草案:23项技术受限,DeepSeek、MiniMax为何先过关

    中国商务部10月16日发布草案,将参数≥2万亿或全球前十的大模型纳入出口受限目录,23类AI技术须申请许可。然而不到一周,DeepSeek和MiniMax便率先完成登记,依托开源豁免条款获得授权。这场管制与豁免同步上演的政策操作,揭示的不是收紧,而是一套精心设计的"分层主权"逻辑。

    来源 AI 科技快讯
  5. 中国AI出口管制草案:23项技术设限,开源模型获豁免通道

    中国商务部10月16日发布草案,将参数≥2万亿或全球前十的大模型纳入出口受限目录,23类AI技术须申请许可。然而不到一周,DeepSeek和MiniMax便率先完成登记,依托开源豁免条款获得授权。这场管制与豁免同步上演的政策操作,揭示的不是收紧,而是一套精心设计的"分层主权"逻辑。

    来源 AI 行业观察
  6. 中信证券看多国产大模型:Harness或成DeepSeek生态与商业化关键一环

    中信证券研究公众号发布报告,认为 Harness 有望成为 DeepSeek 从模型供给走向平台生态的关键一环,将开源与工程优势转化为用户基础、生态影响力和商业化能力。中信证券还在报告提到,看好国产大模型持续崛起,称国产模型能力持续提升,叠加成本效率与开源生态优势,有望推动 AI 应用向更广泛的知识工作与企业场景渗透。

    来源 IT之家
  7. Kimi K3.1 Pro登顶开源榜,DeepSeek-v4.1-Flash实测有坑

    月之暗面发布Kimi K3.1 Pro,在Agent Arena评测中位列第11,成为排名最高的开放模型。与此同时,DeepSeek-v4.1-Flash实测显示其编程能力虽有提升,但在处理高代价操作时表现保守,接入现有智能体框架需调整策略。此外,本期还整理了8个支持AI精细转写的中文播客工具,以及Obsidian插件

    来源 AI 应用前沿
  8. DeepSeek整合Harness与产品团队,崔添翼接管产品部

    两个月前,崔添翼还在请开发者帮一款新产品挑错;两个月后,他接过了DeepSeek的产品部。 8月13日,DeepSeek Harness开源。这套软件让模型调用工具、操作文件,完成连续任务。时任团队负责人的崔添翼在微博上用提意见的方式,侧面公布了进度:“目前的版本还很不完善,请大家多提提意见。” 10月16日,澎湃新闻

    来源 AI 行业观察
  9. DeepSeek开源DeepInfer推理框架:缓存命中折扣97%,成本优势怎么来的

    DeepSeek 把内部推理框架 DeepInfer 开源,号称自家的印钞机。从 MoE、MLA 到开源周、再到 DeepInfer,这条路线把缓存命中折扣压到 97%,每百万 token 的价格一路降了九成。 最近,DeepSeek又把一项核心的技术开源出来了,号称是 DeepSeek 的印钞机。 它就是10月20日

    来源 AI 行业观察
  10. DeepSeek上线AI原生搜索API:千亿网页索引,百度股价一度跌超5%

    孤岛化的App隔绝了信息的流动,用户不再从浏览器发起搜索,而是在微信、抖音、微博、小红书上找问题的答案,这是百度在移动互联网时代面临的结构性痛点。虽然百度搜索在移动互联网时代只是活得不太舒服,可到了AI时代,它可能就要活不下去了。 近日DeepSeek方面宣布,V4.1 Flash模型已更新至“许愿式编程一键成真”的V

    来源 AI 行业观察
  11. DeepSeek开源DeepInfer:推理框架公开,缓存成本优势几何

    最近,DeepSeek又把一项核心的技术开源出来了,号称是 DeepSeek 的印钞机。它就是10月20日开源的DeepInfer,它是DeepSeek内部大规模推理的核心框架。官方文件在《DeepSeek V4.1 Flash 大规模推理部署实践》中提到,这套框架现在就支撑着自家的生产服务,是其“推理加速、省显存、降

    来源 腾讯网
  12. DeepSeek开源DeepInfer:缓存命中折扣97%,推理成本优势有多大

    最近,DeepSeek又把一项核心的技术开源出来了,号称是 DeepSeek 的印钞机。它就是10月20日开源的DeepInfer,它是DeepSeek内部大规模推理的核心框架。官方文件在《DeepSeek V4.1 Flash 大规模推理部署实践》中提到,这套框架现在就支撑着自家的生产服务,是其“推理加速、省显存、降

    来源 腾讯网
向下滚动自动加载更多