OpenCompass司南

OpenCompass司南

AI TOOL PROFILE工具资料

面向大模型的中立评测与榜单参考平台

官网地址 https://rank.opencompass.org.cn

访问官网
价格官网未标价
平台—
归类大模型与开发平台
收录2026-10-12
复核2026-10-12
编辑评分 4.2 / 5

OpenCompass司南编辑总结

EDITOR REVIEW编辑评测

OpenCompass 司南是一个面向大语言模型的能力评测与榜单平台,由上海人工智能实验室团队推出,把多个维度的模型能力测试结果汇总成可横向比较的排行,供研究人员、开发者与选型团队参考。它的价值在于把分散的评测口径统一起来,让不同模型在同一套题目和打分标准下对比,减少自测带来的口径差异。需要注意的是榜单只是某一时点的切片,模型的真实表现还取决于你的具体任务、提示词与部署方式,不能直接把排名当成选型结论。

OpenCompass司南是什么?

OpenCompass 司南是一套大模型评测体系加公开榜单的组合。它由上海人工智能实验室相关团队维护,核心工作是设计覆盖知识、推理、语言、代码、长文本、安全等方向的中文与英文评测集,把参评模型放到同一套题目里跑,再按维度给出分数与排名,让研究者和开发者有一个相对统一的对照基准。

在形态上,它同时提供榜单页面和可复用的评测工具链。榜单页面面向想快速了解模型能力分布的读者,按学科与能力维度切分,可以看到各模型在不同方向上的强弱;工具链面向需要自己跑评测的团队,支持接入自有模型或已有接口,按配置好的数据集批量出分,便于把第三方结论和自测结果对齐。

不同角色用法不同。研究人员通常关注评测集的设计口径与各维度的细项得分,用来判断某个能力方向的技术进展;工程团队更多把它当作选型的前置筛选,先看榜单圈定候选模型,再用自己的业务数据做小规模验证;普通读者则适合把它当作了解模型能力差异的入口,但要注意榜单针对的是通用能力,不一定等于你的场景表现。

OpenCompass司南核心功能

CAPABILITIES工具标签

多维度模型榜单

按知识、推理、语言、代码等方向分栏展示模型得分与排名,同一模型在不同维度上的强弱能一眼看出差异,便于按需求方向而不是单一总分来筛选。

统一评测口径

把参评模型放到同一套题目和打分规则下比较,避免各家自报成绩时题目不同、口径不同导致的不可比问题,这也是它被引用作横向参考的主要原因。

中文能力侧重

评测集包含较多中文语料与中文场景任务,对国内团队判断模型在本土语境下的表现比纯英文榜单更有参考价值,尤其是中文理解与表达类任务。

开源评测工具链

除榜单外还提供可自行部署的评测框架,支持接入自有模型或接口,按配置好的数据集批量跑分出报告,方便团队把自测结果与公开榜单对齐。

榜单持续更新

新模型发布后会陆续纳入评测并更新排名,读者能看到同一模型在版本迭代前后的位置变化,但具体更新节奏以官方页面为准。

OpenCompass司南值不值得用?

VERDICT工具标签

把它当成模型选型的前置筛选工具是合适的:先用榜单圈定几个在目标能力方向上表现靠前的候选,再用自己的业务数据做小规模验证,能省掉从零对比的时间。如果你的任务高度垂直、依赖特定领域知识或私有数据,榜单排名的参考价值会明显下降,因为评测集覆盖的是通用能力,不等于你的场景表现。另外要注意同一模型在不同维度上的排名可能差很多,只看总分容易选错方向。

建议选它的情况

  • 需要快速了解当前主流模型能力分布、做初步候选筛选的团队
  • 关注中文场景表现、希望参考中文评测集的国内开发者
  • 想用开源框架自建评测流程、并与公开结果对齐的工程团队

不建议选它的情况

  • 任务高度垂直、依赖私有数据,榜单通用能力排名参考价值有限
  • 需要开箱即用的业务级效果评估,而不只是通用能力对比
  • 只看单一总分做决策,而不关注目标能力维度细分排名

OpenCompass司南使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 先按维度筛选不要直接看总榜,先想清楚你的任务更依赖哪类能力,比如代码、数学推理还是中文理解,进对应维度看排名再列候选,避免被总分误导。
  2. 关注细分项点进模型详情看各子任务得分,而不是只看一个汇总分。同一模型可能在高频知识题上很强、在长文本或多步推理上明显偏弱,细分项能暴露这种短板。
  3. 记录参评时间模型的排名会随版本迭代和评测集更新变化,抄下你看到榜单时的版本与时间,后续对比时才知道差异是模型升级还是评测口径调整造成的。
进阶省时间也省钱
  1. 自测结果对齐用官方提供的评测框架在你自己的机器上跑同一批数据集,把得到的分与榜单分对比。差异明显时先排查推理参数与提示模板是否一致,而不是急着下结论。
  2. 榜单只做初筛把榜单当漏斗的第一层,圈定少数候选后,用你自己的业务样本做小规模验证。业务数据上的表现才是最终依据,公开排名不能替代这一步。
  3. 留意提示敏感性同一个模型换个提示模板分数可能明显波动。如果榜单结果和你的体感差距大,先检查是不是提示写法差异导致的,再判断模型本身能力。

OpenCompass司南适合谁用?

WHO IS IT FOR工具标签

大模型选型团队

推荐

需要从多个候选模型中筛出可用的几个,榜单能给出横向对比的起点,节省逐个自测的时间,但最终仍要用业务数据验证。

算法研究人员

推荐

关注特定能力方向的技术进展与评测集设计口径,可以按维度追踪各模型的得分变化,判断某类能力的整体水位。

应用开发者

有条件

需要给产品挑一个底模,先看榜单圈定候选是高效做法;但应用场景往往有特定约束,排名靠前不等于在你的任务上更好用。

只看总分做决策的人

不推荐

同一模型在不同维度上排名可能差很多,只看总榜容易选出在目标能力上偏弱的模型,需要结合细分维度判断。

OpenCompass司南优点和缺点

PROS & CONS工具标签

优点

  • 评测口径统一,参评模型可在同一套题目下横向比较
  • 包含较多中文场景任务,对国内团队参考价值更高
  • 按知识、推理、代码等维度分栏,能看出模型的强弱方向
  • 同时提供公开榜单与可自行部署的开源评测工具链
  • 新模型发布后会陆续纳入评测,榜单保持更新

缺点

  • 评测集覆盖通用能力,垂直或私有场景排名参考价值有限
  • 只看总榜容易忽略模型在细分维度上的明显短板
  • 同一模型换提示模板分数可能波动,榜单结果与体感会有差距
  • 榜单反映的是参评时点的切片,模型版本迭代后排名会变化

OpenCompass司南常见问题

FAQ工具标签
OpenCompass 司南是什么,免费吗?

它是一套大模型评测体系和公开榜单,由上海人工智能实验室相关团队维护,把多个模型放到同一套题目下评测并给出排名。榜单页面可以直接浏览,不需要付费;同时它还提供可自行部署的开源评测工具链,供团队在自己的环境里跑测评。

榜单上的排名能直接当成选型结论吗?

不建议。榜单评测的是通用能力,用的是公开题目,和你的业务数据、提示写法、部署方式都不同。合理的用法是先按维度圈定几个候选模型,再用自己的样本做小规模验证,业务数据上的表现才是最终依据。

它和普通的模型对比文章有什么区别?

普通对比文章往往是作者自选题目、自定打分,口径不透明也难以复现。司南的做法是把参评模型放在同一套评测集和同一套打分规则下比较,并且评测工具链是公开的,结果可核对、可复现,这也是它被引用的主要原因。

为什么同一个模型在不同维度上排名差很多?

因为不同维度考察的能力不一样,知识问答、数学推理、代码生成、长文本理解各自需要的模型能力并不重合。一个模型可能在高频知识题上表现很好,但在多步推理或长文本上明显偏弱,所以按你的任务方向看对应维度比看总分更有意义。

可以评测自己的模型吗?

可以。它除了榜单页面外还提供开源的评测框架,支持接入自有模型或已有接口,按配置好的数据集批量跑分出报告。这样你既能把自测结果与公开榜单对齐,也能用同一套口径检验微调前后的变化。

榜单多久更新一次?

新模型发布后会被陆续纳入评测并更新排名,具体节奏以官方页面为准。如果要长期跟踪某个模型的位置变化,建议连同看到榜单时的时间一起记录下来,方便区分排名变动是模型升级还是评测集调整造成的。