知识问答类评测基准

KNOWLEDGE学科知识与专家问答

知识问答类问的是「模型脑子里装了多少、能不能当场取出来」:57 个学科的选择题、研究生水平的物理化学生物难题、以及不靠记忆靠现场归纳的抽象图形题都算在这一类。这一类的分水岭出现在 2024—2025 年——2020 年前后发布的选择题题库(MMLU 等)已被训练数据吃透,前沿模型普遍挤在 90 分以上;厂商现在更愿意引用 GPQA Diamond、HLE 与 ARC-AGI-2。所以看这一类的分数,先确认题库年龄与是否公开,再看分数本身。

本分类收录 6 个基准 活跃 3 · 数据日期 2026-10-19

本分类收录 6 个基准:活跃 3、已饱和 3、已停用 0;高污染风险 1 个,另有 5 个(83%)能追溯到明确的 SOTA 持有模型。 全站共 36 个基准、6 个分类, 回评测基准百科看全部,或从下方「其它分类」切到相邻的一类。

本分类基准 6 知识问答 · 数据更新 2026-10-19
仍在活跃 3 题目或榜单仍在更新,有区分度
已饱和 3 前沿模型接近上限,只作能力下限
高污染风险 1 题库公开多年,分数偏乐观
有明确 SOTA 5 占比 83%,其余只有大致说法

这一类该怎么看

知识问答
看分数前先核对这三件事
  1. 先看题库年龄:2020—2021 年发布、题目全公开的选择题集(MMLU、GSM8K 一类)几乎必然已被训练数据吸收,90 分以上只作能力下限,分数之间的差距小于评测噪声。
  2. 再看是不是 Google-Proof:GPQA Diamond(198 题、专家校验)与 HLE(2,500 题公开集 + 私有留出集)靠「搜不到、记不住」保持区分度,但题量小、方差大,±3 分内不要排名。
  3. 最后看跑分方式:HLE 要区分「带工具 / 不带工具」,ARC-AGI-2 要区分官方脚手架与厂商适配脚手架——同一个模型换一种跑法,差几十个点都发生过。

先看这几条

3 个
活跃优先、污染风险低的排前面,点进去看卡片里的完整评分说明

SOTA 持有者

4 个模型
按本分类里持有 SOTA 的基准数排,没有可追溯模型的条目不参与统计
  • Claude Opus 5.5 2 个基准 Humanity's Last Exam、GDPval
  • Claude Fable 5.1 1 个基准 MMLU-Pro
  • GPT-6 Astra max 1 个基准 ARC-AGI-2
  • GPT-6 Astra xhigh 1 个基准 GPQA Diamond

知识问答基准清单

显示 6 / 6 个
每张卡=一个基准:考什么、多少题、前沿到哪、风险多高

GDPval

2025 发布 · 维护方 OpenAI (GDPval-AA v2.1 run by Artificial Analysis)

活跃

44 个职业、1,320 项有真实经济价值的工作任务,由资深从业者出题,用盲评对比人类交付物给出胜率或 Elo。

题目规模
1,320 个任务,覆盖 44 个职业
分数区间
对人类的交付胜率,或锚定参考模型的 Elo
污染风险 低 当前前沿 1866 Elo

SOTA:Claude Opus 5.5 (adaptive reasoning, max effort, default fallback) · 2026-10

原榜分数原文:1866 Elo (GDPval-AA v2.1, 220 tasks), 9 ahead of Muse Wonder Full (max) at 1857 and 28 ahead of Claude Sonnet 5.5 (max) at 1838; the Elo re-anchors as models join and versions chan

选型提示:Elo 不要归一化到 0–100,且版本间会重新锚定,旧版成绩不可比。

仍在更新题目或持续收录新模型成绩 论文 榜单 分数来源

Humanity's Last Exam

2025-01 发布 · 维护方 CAIS + Scale AI

活跃

跨 100 多个学科的专家级难题,公开集 2,500 题、另有私有留出集防过拟合;厂商常见「带工具 / 不带工具」两种跑法。

题目规模
2,500 道题(公开集)
分数区间
0–100% 正确率
污染风险 低 当前前沿 61.4%

SOTA:Claude Opus 5.5 (adaptive reasoning, max effort, default fallback) · 2026-09

原榜分数原文:61.4% no tools (Artificial Analysis run; previous best 59.1%, Claude Fable 5.1)

选型提示:对比分数前先确认是否带工具、工具配置如何,跑法不同不可比。

仍在更新题目或持续收录新模型成绩 论文 榜单 分数来源

MMLU-Pro

2024 发布 · 维护方 TIGER Lab

活跃

MMLU 的加难版:10 选 1、更强调多步推理而不是死记硬背,是当前判断「模型通识能力」最常用的题集。

题目规模
12,032 道题
分数区间
0–100% 正确率
污染风险 中 当前前沿 92.38%

SOTA:Claude Fable 5.1 · 2026-09

原榜分数原文:92.38% (Vals AI run; Vals archived this board as saturated on 2026-09-01 and no longer runs new releases, and the Artificial Analysis board has not added 2026 models)

选型提示:Vals AI 已于 2026-09-01 把该榜归档为饱和,Artificial Analysis 也未补录 2026 年新模型。

仍在更新题目或持续收录新模型成绩 论文 榜单 分数来源

ARC-AGI-2

2025-03 发布 · 维护方 ARC Prize Foundation

已饱和

抽象图形推理:给几组示例归纳规则,靠现场推理而非训练数据重叠,用来观察模型解决全新问题的能力。

题目规模
约 400 个公开任务,另有私有集
分数区间
0–100% 正确率
污染风险 低 当前前沿 95.0%

SOTA:GPT-6 Astra (max) · 2026-09

原榜分数原文:95.0% at $1.12/task (human panel 100%)

前沿模型已接近上限,区分度明显下降 论文 榜单 分数来源

GPQA Diamond

2023 发布 · 维护方 Rein et al.

已饱和

研究生水平的物理 / 化学 / 生物难题,属于 Google-Proof(搜不到现成答案),198 题全部经过专家校验。

题目规模
198 道题
分数区间
0–100% 正确率
污染风险 低 当前前沿 96.3%

SOTA:GPT-6 Astra (xhigh) · 2026-09

原榜分数原文:96.3% (Artificial Analysis run)

选型提示:Vals 已把该榜归档为饱和,2026 年新发布的模型不再有该榜成绩。

前沿模型已接近上限,区分度明显下降 论文 代码 分数来源

MMLU

2020 发布 · 维护方 Hendrycks et al.

已饱和

57 个学科的选择题(法律、医学、历史、数学等),衡量模型的通用学科知识面,是「通用知识」类评测的起点。

题目规模
15,908 道题
分数区间
0–100% 正确率
污染风险 高 当前前沿 ~92%

SOTA:—

原榜分数原文:~92% (no maintainer board; last traceable figure 2025-08)

选型提示:已基本饱和,想看当前通用能力请改用 MMLU-Pro。

前沿模型已接近上限,区分度明显下降 论文 代码

知识问答基准常见问题

只讲这一类自己的问题,通用问题见评测基准百科首页
MMLU 已经饱和了,为什么厂商发布会还在引用它?

因为它是历史基线:从 2020 年到现在几乎所有模型都有 MMLU 成绩,引用它可以和上一代、上上代模型连成一条线。但这只说明「没有退步」,不说明「更强」——本页把 MMLU 标成已饱和 + 高污染风险,就是提醒别拿它做选型依据。

MMLU-Pro 和 MMLU 差在哪?

MMLU-Pro 把选项从 4 个扩到 10 个、题目更强调多步推理而不是死记硬背,公开集12,032 题。它的区分度比 MMLU 好,但 Vals AI 已在 2026-09-01 把它归档为饱和,2026 年新发布的模型不再有该榜成绩,所以现在更多是「有据可查的历史成绩」。

GPQA Diamond 只有 198 题,为什么还被当作权威参考?

因为它同时满足三个条件:题目由领域专家编写并校验、搜不到现成答案(Google-Proof)、题库不公开训练数据难以覆盖,所以污染风险低。代价是题量小、单题权重大(一题约 0.5 分),不同运行之间的波动比 MMLU 明显,看的时候按区间理解而不是按小数点排名。

HLE 的分数为什么各家差很多?

HLE 有公开集与私有留出集,且允许「带工具 / 不带工具」两种跑法;带联网、带代码执行的成绩会显著高于纯模型作答。对比前先找脚注确认跑法,不同跑法之间不可比,本页卡片保留了原榜的分数原文。

GDPval 为什么归在知识问答类?

它测的是 44 个职业、1,320 项有真实经济价值的工作任务,由资深从业者出题、用盲评对比人类交付物给胜率或 Elo,考的是「专业知识的实际交付」。注意 Elo 随新模型加入重新锚定、版本间不可比,同一模型在不同月份公布的数字会不一样。

其它分类

5 个
按分类切过去看另一类基准怎么读,不是筛选条件

读榜前先看这几条

本分类范围6 个基准全站共 36 个基准 / 6 个分类,按分类归入本页
这一类看什么知识问答导语、判据要点与问答都按这一类的实际考法写,题量与分数保留原值
分数怎么看来源混合官方榜、独立评测机构与厂商自报混用,卡片里逐条标注;跨来源横向比较要谨慎
状态怎么读活跃 / 已饱和 / 已停用已饱和说明前沿模型接近上限,已停用说明这个版本不再维护
没有的数据显示「—」没有 SOTA 模型或没有榜单链接时如实留空,不用估计值填充
适合谁看挑基准前先看这一类同场景的基准放在一起比,才分得出哪个数字能当证据

数据来自公开渠道整理:各基准的论文、维护方榜单与第三方跑分结果,数据日期 2026-10-19。