国产模型排行

模型与算力

面向国内开发者,讲清国产模型排行该看哪些维度、不同维度各看什么指标,以及怎么把榜单数字换成自己任务里的判断。

你可能正卡在这一步:要选一个国产模型接进项目,翻了几份「国产模型排行」,发现名次互相打架,榜单还都停在上个季度。这篇不给你一份固定名次,而是把排行背后的维度拆开——通用对话、代码、长文本、中文理解、成本与延迟——告诉你每类维度该去站内哪个页面核对当时的数字,以及在什么情况下这些排行根本不适用。

你可能正卡在这一步:要选一个国产模型接进项目,翻了几份「国产模型排行」,发现名次互相打架,榜单还都停在上个季度。这篇不给你一份固定名次,而是把排行背后的维度拆开,告诉你每一类维度该看什么指标、该去站内哪个页面核对当时的数字,以及在什么情况下这些排行根本不适用于你。

先明确一件事:排行不是一个数,是一组「在某个题目集、某个评分口径、某个时间点上」的测量结果。你不必找一份最权威的榜,只要把「你最在意的那类任务」和「榜单测的那类任务」对上号,名次才有意义。下面按通用对话、代码、长文本、中文理解、成本与延迟这几条线来拆。

为什么几份国产模型排行会互相打架

这不是谁造假,多数时候是三件事不一样:题目集不一样、评分口径不一样、参评快照的时间不一样。你在两份榜上看到同一家模型一个靠前一个靠后,先别急着下结论,去翻榜单页脚或说明区,看它有没有写清这三项。写不清的榜,只能当参考,不能当依据。

  • 题目集:是公开的通用题库,还是自建的中文场景题?后者更贴近国内业务,但覆盖面往往窄
  • 评分口径:是人工盲评、第三方模型当裁判,还是模型给自己打分?自评分只能和自评分比
  • 快照时间:模型迭代快,榜上那版可能早就换了,去找有更新说明的页面
  • 版本口径:同一个模型的不同后缀、推理开关、量化档位,表现能差出一大截

按你的任务挑维度,而不是按总榜名次挑

总榜把很多维度的分加在一起,权重是别人定的,不是你的。你的业务如果八成是中文客服问答,那代码分高不高对你几乎没影响。正确的做法是先写下你任务里最重要的两三个维度,再只盯这几列看。

任务类型该看的指标容易踩的坑
通用对话与写作中文表达、指令跟随、拒答边界只看英文基准,忽略中文口语化表达
代码任务仓库级修改、多轮调试、报错修复拿单文件补全的分数推断整体能力
长文本与文档长文档问答的召回位置、上下文衰减只看宣传的窗口长度,不看实际召回
中文语义检索检索召回与排序口径拿去和生成类榜单混着比
成本与延迟每千 token 花费、首字延迟、限流质量分好看,但吞吐撑不住上线

每一列的当时数字,到站内的模型资料与测评页核对,别用第三方转载的旧截图。想知道一个模型最近实际被用得怎么样,也可以看使用热度类页面,它反映的是一段时间内的倾向,不是质量分。具体路径下面一节列。

把榜单结论落到自己任务上的验证步骤

榜单能帮你缩小候选范围,但决定用哪个,只能靠你自己的测试集。别一上来跑全量,先做一套小而固定的样本,跑通了再扩。下面四步的顺序别颠倒,尤其是最后一步,很多人省掉它,结果线上出问题没有退路。

  1. 建固定测试集从真实业务里挑 20-50 条历史问题,覆盖常见问题和边界情形,每条都写清期望输出。之后每次换模型都用同一套,才有可比性
  2. 选三个维度的候选不要只拿总榜前几名,按你的核心维度各挑一个候选,用同一套提示词跑一遍,输出顺序打乱后人工盲评
  3. 归因失败样本记录失败集中在哪:知识缺失、格式跑偏、长文丢信息,还是延迟超限。知识缺失换模型有用,格式问题往往改提示词更划算
  4. 留回退位上线前写清切模型的触发条件,比如错误率或延迟超过某个阈值就切回备用模型,并把切换动作固化进配置

站内去哪核对当时的数字

下面这张对照表把维度和站内页面配起来。看的时候注意页面的更新时间,老快照的数字只能当历史参考。任何要写进选型文档的数字,都以你打开页面那一刻为准。

模型规格与基础资料
到 /models 与 /ai-rankings 对照,别用第三方转载的老快照
测评榜单与题目口径
到 /benchmarks 与 /benchmarks/registry 看是人工评测还是自动打分
实际使用倾向
到 /usage 与 /openrouter 看一段时间内的调用热度,不是质量分
中文检索类模型
到 /embeddings 单独看,别和生成类排行混比

如果你更关心价格波动和不同渠道的报价差异,那属于另一条线,去价格追踪类页面看当时的数字,和模型能力排行分开看,两件事别混在一个决策里。

什么情况下国产模型排行对你没参考价值

排行默认你是在公网调 API、任务比较通用、延迟要求不极端。只要有一条不成立,榜上的名次对你的参考价值就会大幅下降。下面这几类场景,建议把排行当参考而不是依据。

  • 强合规场景:数据必须留在内网,托管版本能不能用本身就是另一个问题,先看合规相关页面
  • 极低延迟或高并发:榜上的质量分再高,限流和吞吐不达标也上不了线
  • 垂类任务:法律、医疗这类需要专业校验的活儿,通用排名区分度很低
  • 私有化部署:本地量化后表现会掉,你机器上跑出来的分才是你的分
  • 定制微调后:微调会改变模型的行为分布,原榜的结论基本失效

一句话判断:如果你的任务和榜单的题目集、部署方式、延迟要求都不在一个世界,那份榜对你就是无效信息。反过来,只要有一两条对得上,它就能帮你省下筛选候选的时间。

排行只负责帮你缩小范围,选谁最终由你自己的测试集说了算。
下一步拿你业务里最常见的 20 条问题,去站内测评页对着当时的数字挑三个候选,跑一遍盲评,再决定接哪个。

常见问题

国产模型排行第一名,是不是直接用它就行?

不一定。总榜第一名通常是在一组通用题目上的综合分,和你的任务形状未必一致。更稳的做法是先按你的任务类型缩小到两三个候选,再用自己的测试集跑一遍。如果榜单没写清题目集和评分口径,名次的参考价值还要再打折。

为什么同一家模型在不同榜单上排名差很多?

常见原因有三个:一是参评的模型快照时间不同,新版本还没进榜;二是评分方式不同,人工盲评和模型自评分出来的结果差别很大;三是题目偏重不同,偏代码的榜和偏中文写作的榜本来就不该给出一致名次。看榜先看它评的是什么。

国产模型排行多久看一次比较合适?

如果只是做技术选型的背景了解,每个季度集中看一次就够;如果是上线中的服务,模型迭代和调价都可能影响成本与效果,建议在有换代或调价动静时再去站内确认一次当时的数字,而不是按记忆里的旧名次做决定。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。