你可能正卡在这一步:要选一个国产模型接进项目,翻了几份「国产模型排行」,发现名次互相打架,榜单还都停在上个季度。这篇不给你一份固定名次,而是把排行背后的维度拆开——通用对话、代码、长文本、中文理解、成本与延迟——告诉你每类维度该去站内哪个页面核对当时的数字,以及在什么情况下这些排行根本不适用。
你可能正卡在这一步:要选一个国产模型接进项目,翻了几份「国产模型排行」,发现名次互相打架,榜单还都停在上个季度。这篇不给你一份固定名次,而是把排行背后的维度拆开,告诉你每一类维度该看什么指标、该去站内哪个页面核对当时的数字,以及在什么情况下这些排行根本不适用于你。
先明确一件事:排行不是一个数,是一组「在某个题目集、某个评分口径、某个时间点上」的测量结果。你不必找一份最权威的榜,只要把「你最在意的那类任务」和「榜单测的那类任务」对上号,名次才有意义。下面按通用对话、代码、长文本、中文理解、成本与延迟这几条线来拆。
为什么几份国产模型排行会互相打架
这不是谁造假,多数时候是三件事不一样:题目集不一样、评分口径不一样、参评快照的时间不一样。你在两份榜上看到同一家模型一个靠前一个靠后,先别急着下结论,去翻榜单页脚或说明区,看它有没有写清这三项。写不清的榜,只能当参考,不能当依据。
- 题目集:是公开的通用题库,还是自建的中文场景题?后者更贴近国内业务,但覆盖面往往窄
- 评分口径:是人工盲评、第三方模型当裁判,还是模型给自己打分?自评分只能和自评分比
- 快照时间:模型迭代快,榜上那版可能早就换了,去找有更新说明的页面
- 版本口径:同一个模型的不同后缀、推理开关、量化档位,表现能差出一大截
按你的任务挑维度,而不是按总榜名次挑
总榜把很多维度的分加在一起,权重是别人定的,不是你的。你的业务如果八成是中文客服问答,那代码分高不高对你几乎没影响。正确的做法是先写下你任务里最重要的两三个维度,再只盯这几列看。
| 任务类型 | 该看的指标 | 容易踩的坑 |
|---|---|---|
| 通用对话与写作 | 中文表达、指令跟随、拒答边界 | 只看英文基准,忽略中文口语化表达 |
| 代码任务 | 仓库级修改、多轮调试、报错修复 | 拿单文件补全的分数推断整体能力 |
| 长文本与文档 | 长文档问答的召回位置、上下文衰减 | 只看宣传的窗口长度,不看实际召回 |
| 中文语义检索 | 检索召回与排序口径 | 拿去和生成类榜单混着比 |
| 成本与延迟 | 每千 token 花费、首字延迟、限流 | 质量分好看,但吞吐撑不住上线 |
每一列的当时数字,到站内的模型资料与测评页核对,别用第三方转载的旧截图。想知道一个模型最近实际被用得怎么样,也可以看使用热度类页面,它反映的是一段时间内的倾向,不是质量分。具体路径下面一节列。
把榜单结论落到自己任务上的验证步骤
榜单能帮你缩小候选范围,但决定用哪个,只能靠你自己的测试集。别一上来跑全量,先做一套小而固定的样本,跑通了再扩。下面四步的顺序别颠倒,尤其是最后一步,很多人省掉它,结果线上出问题没有退路。
- 建固定测试集从真实业务里挑 20-50 条历史问题,覆盖常见问题和边界情形,每条都写清期望输出。之后每次换模型都用同一套,才有可比性
- 选三个维度的候选不要只拿总榜前几名,按你的核心维度各挑一个候选,用同一套提示词跑一遍,输出顺序打乱后人工盲评
- 归因失败样本记录失败集中在哪:知识缺失、格式跑偏、长文丢信息,还是延迟超限。知识缺失换模型有用,格式问题往往改提示词更划算
- 留回退位上线前写清切模型的触发条件,比如错误率或延迟超过某个阈值就切回备用模型,并把切换动作固化进配置
站内去哪核对当时的数字
下面这张对照表把维度和站内页面配起来。看的时候注意页面的更新时间,老快照的数字只能当历史参考。任何要写进选型文档的数字,都以你打开页面那一刻为准。
- 模型规格与基础资料
- 到 /models 与 /ai-rankings 对照,别用第三方转载的老快照
- 测评榜单与题目口径
- 到 /benchmarks 与 /benchmarks/registry 看是人工评测还是自动打分
- 实际使用倾向
- 到 /usage 与 /openrouter 看一段时间内的调用热度,不是质量分
- 中文检索类模型
- 到 /embeddings 单独看,别和生成类排行混比
如果你更关心价格波动和不同渠道的报价差异,那属于另一条线,去价格追踪类页面看当时的数字,和模型能力排行分开看,两件事别混在一个决策里。
什么情况下国产模型排行对你没参考价值
排行默认你是在公网调 API、任务比较通用、延迟要求不极端。只要有一条不成立,榜上的名次对你的参考价值就会大幅下降。下面这几类场景,建议把排行当参考而不是依据。
- 强合规场景:数据必须留在内网,托管版本能不能用本身就是另一个问题,先看合规相关页面
- 极低延迟或高并发:榜上的质量分再高,限流和吞吐不达标也上不了线
- 垂类任务:法律、医疗这类需要专业校验的活儿,通用排名区分度很低
- 私有化部署:本地量化后表现会掉,你机器上跑出来的分才是你的分
- 定制微调后:微调会改变模型的行为分布,原榜的结论基本失效
一句话判断:如果你的任务和榜单的题目集、部署方式、延迟要求都不在一个世界,那份榜对你就是无效信息。反过来,只要有一两条对得上,它就能帮你省下筛选候选的时间。
排行只负责帮你缩小范围,选谁最终由你自己的测试集说了算。下一步拿你业务里最常见的 20 条问题,去站内测评页对着当时的数字挑三个候选,跑一遍盲评,再决定接哪个。→
常见问题
国产模型排行第一名,是不是直接用它就行?
不一定。总榜第一名通常是在一组通用题目上的综合分,和你的任务形状未必一致。更稳的做法是先按你的任务类型缩小到两三个候选,再用自己的测试集跑一遍。如果榜单没写清题目集和评分口径,名次的参考价值还要再打折。
为什么同一家模型在不同榜单上排名差很多?
常见原因有三个:一是参评的模型快照时间不同,新版本还没进榜;二是评分方式不同,人工盲评和模型自评分出来的结果差别很大;三是题目偏重不同,偏代码的榜和偏中文写作的榜本来就不该给出一致名次。看榜先看它评的是什么。
国产模型排行多久看一次比较合适?
如果只是做技术选型的背景了解,每个季度集中看一次就够;如果是上线中的服务,模型迭代和调价都可能影响成本与效果,建议在有换代或调价动静时再去站内确认一次当时的数字,而不是按记忆里的旧名次做决定。