多维度模型榜单
按知识、推理、语言、代码等方向分栏展示模型得分与排名,同一模型在不同维度上的强弱能一眼看出差异,便于按需求方向而不是单一总分来筛选。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
OpenCompass 司南是一个面向大语言模型的能力评测与榜单平台,由上海人工智能实验室团队推出,把多个维度的模型能力测试结果汇总成可横向比较的排行,供研究人员、开发者与选型团队参考。它的价值在于把分散的评测口径统一起来,让不同模型在同一套题目和打分标准下对比,减少自测带来的口径差异。需要注意的是榜单只是某一时点的切片,模型的真实表现还取决于你的具体任务、提示词与部署方式,不能直接把排名当成选型结论。
OpenCompass 司南是一套大模型评测体系加公开榜单的组合。它由上海人工智能实验室相关团队维护,核心工作是设计覆盖知识、推理、语言、代码、长文本、安全等方向的中文与英文评测集,把参评模型放到同一套题目里跑,再按维度给出分数与排名,让研究者和开发者有一个相对统一的对照基准。
在形态上,它同时提供榜单页面和可复用的评测工具链。榜单页面面向想快速了解模型能力分布的读者,按学科与能力维度切分,可以看到各模型在不同方向上的强弱;工具链面向需要自己跑评测的团队,支持接入自有模型或已有接口,按配置好的数据集批量出分,便于把第三方结论和自测结果对齐。
不同角色用法不同。研究人员通常关注评测集的设计口径与各维度的细项得分,用来判断某个能力方向的技术进展;工程团队更多把它当作选型的前置筛选,先看榜单圈定候选模型,再用自己的业务数据做小规模验证;普通读者则适合把它当作了解模型能力差异的入口,但要注意榜单针对的是通用能力,不一定等于你的场景表现。
按知识、推理、语言、代码等方向分栏展示模型得分与排名,同一模型在不同维度上的强弱能一眼看出差异,便于按需求方向而不是单一总分来筛选。
把参评模型放到同一套题目和打分规则下比较,避免各家自报成绩时题目不同、口径不同导致的不可比问题,这也是它被引用作横向参考的主要原因。
评测集包含较多中文语料与中文场景任务,对国内团队判断模型在本土语境下的表现比纯英文榜单更有参考价值,尤其是中文理解与表达类任务。
除榜单外还提供可自行部署的评测框架,支持接入自有模型或接口,按配置好的数据集批量跑分出报告,方便团队把自测结果与公开榜单对齐。
新模型发布后会陆续纳入评测并更新排名,读者能看到同一模型在版本迭代前后的位置变化,但具体更新节奏以官方页面为准。
把它当成模型选型的前置筛选工具是合适的:先用榜单圈定几个在目标能力方向上表现靠前的候选,再用自己的业务数据做小规模验证,能省掉从零对比的时间。如果你的任务高度垂直、依赖特定领域知识或私有数据,榜单排名的参考价值会明显下降,因为评测集覆盖的是通用能力,不等于你的场景表现。另外要注意同一模型在不同维度上的排名可能差很多,只看总分容易选错方向。
需要从多个候选模型中筛出可用的几个,榜单能给出横向对比的起点,节省逐个自测的时间,但最终仍要用业务数据验证。
关注特定能力方向的技术进展与评测集设计口径,可以按维度追踪各模型的得分变化,判断某类能力的整体水位。
需要给产品挑一个底模,先看榜单圈定候选是高效做法;但应用场景往往有特定约束,排名靠前不等于在你的任务上更好用。
同一模型在不同维度上排名可能差很多,只看总榜容易选出在目标能力上偏弱的模型,需要结合细分维度判断。
它是一套大模型评测体系和公开榜单,由上海人工智能实验室相关团队维护,把多个模型放到同一套题目下评测并给出排名。榜单页面可以直接浏览,不需要付费;同时它还提供可自行部署的开源评测工具链,供团队在自己的环境里跑测评。
不建议。榜单评测的是通用能力,用的是公开题目,和你的业务数据、提示写法、部署方式都不同。合理的用法是先按维度圈定几个候选模型,再用自己的样本做小规模验证,业务数据上的表现才是最终依据。
普通对比文章往往是作者自选题目、自定打分,口径不透明也难以复现。司南的做法是把参评模型放在同一套评测集和同一套打分规则下比较,并且评测工具链是公开的,结果可核对、可复现,这也是它被引用的主要原因。
因为不同维度考察的能力不一样,知识问答、数学推理、代码生成、长文本理解各自需要的模型能力并不重合。一个模型可能在高频知识题上表现很好,但在多步推理或长文本上明显偏弱,所以按你的任务方向看对应维度比看总分更有意义。
可以。它除了榜单页面外还提供开源的评测框架,支持接入自有模型或已有接口,按配置好的数据集批量跑分出报告。这样你既能把自测结果与公开榜单对齐,也能用同一套口径检验微调前后的变化。
新模型发布后会被陆续纳入评测并更新排名,具体节奏以官方页面为准。如果要长期跟踪某个模型的位置变化,建议连同看到榜单时的时间一起记录下来,方便区分排名变动是模型升级还是评测集调整造成的。