多模态类评测基准

MULTIMODAL图文与跨模态理解

多模态理解类目前只收录两个基准:MMMU-Pro(大学水平图文混合题,约 3,500 题,30 个学科)与 MathVista(图表、几何图形与函数图像里的数学推理,6,141 题)。两者共同的短板是分数来源不透明——榜单聚合的主要是厂商自报,没有维护方统一复跑,所以这两栏的数字只能看相对位置,不能当第三方实测。另一个坑是 MMMU-Pro 剔除了「仅靠文字就能答对」的样本,与原版 MMMU 不可直接比较。

本分类收录 2 个基准 活跃 2 · 数据日期 2026-10-19

本分类收录 2 个基准:活跃 2、已饱和 0、已停用 0;高污染风险 0 个,另有 0 个(0%)能追溯到明确的 SOTA 持有模型。 全站共 36 个基准、6 个分类, 回评测基准百科看全部,或从下方「其它分类」切到相邻的一类。

本分类基准 2 多模态 · 数据更新 2026-10-19
仍在活跃 2 题目或榜单仍在更新,有区分度
已饱和 0 前沿模型接近上限,只作能力下限
高污染风险 0 题库公开多年,分数偏乐观
有明确 SOTA 0 占比 0%,其余只有大致说法

这一类该怎么看

多模态
看分数前先核对这三件事
  1. 先确认是 MMMU 还是 MMMU-Pro:Pro 版剔掉了单看文字就能作答的样本,两套分数不能混着看,引用时写明版本。
  2. 看图算数(MathVista)与看图答题(MMMU-Pro)是两种能力:前者接近「视觉 + 推理」,后者更接近「学科知识 + 读图」,选型时按自己的场景挑,不要合并成一个「多模态分」。
  3. 这一类缺少独立第三方复跑,看到异常高的分数先找评分脚注:是否 few-shot、是否附带图注、是否只评最终答案、有没有把题目转成文本再喂给模型。

先看这几条

2 个
活跃优先、污染风险低的排前面,点进去看卡片里的完整评分说明

多模态基准清单

显示 2 / 2 个
每张卡=一个基准:考什么、多少题、前沿到哪、风险多高

MathVista

2024 发布 · 维护方 UCLA

活跃

图表、几何图形与函数图像中的数学推理(6,141 题),衡量模型「看图算数」的能力。

题目规模
6,141 道题
分数区间
0–100% 正确率
污染风险 中 当前前沿 ~80%

SOTA:—

原榜分数原文:~80%

仍在更新题目或持续收录新模型成绩 论文 榜单

MMMU-Pro

2024 发布 · 维护方 TIGER Lab + IN.AI

活跃

大学水平的图文混合题(30 个学科、约 3,500 题),Pro 版剔除了仅靠文字就能作答的样本。

题目规模
~3,500 道题
分数区间
0–100% 正确率
污染风险 中 当前前沿 ~86.9%

SOTA:—

原榜分数原文:~86.9% (board aggregates vendor claims, no re-runs)

仍在更新题目或持续收录新模型成绩 论文 榜单

多模态基准常见问题

只讲这一类自己的问题,通用问题见评测基准百科首页
MMMU-Pro 和原版 MMMU 有什么区别?

Pro 版剔除了「仅靠题目文字就能答对」的样本,把题目改成必须真正看图才能作答,题量约 3,500 题、覆盖 30 个学科。因此 Pro 的分数普遍低于原版 MMMU,两套成绩不能混在一起比较。

MathVista 的 80% 是什么分数?

它衡量图表、几何图形与函数图像里的数学推理,共 6,141 题,官方给的是准确率。本页显示的分数来自聚合厂商自报,没有维护方复跑,不同厂商的提示词与是否给图注都会影响结果,所以只适合看相对位置。

为什么多模态理解类基准这么少?

构建成本高:要人工配图、标注答案、处理开放式输出的判定;公开后可复跑的更少。结果就是厂商各自用内部题集自报,第三方很难核验。本页宁可只列两个有公开说明的基准,也不把厂商自报的私有题集当基准收录。

图像、视频生成模型怎么评测?

不在本类。生成类没有唯一答案,主流做法是人类偏好竞技场(两两对比投票后算 Elo),与这里的「读图答题」是两套体系;语音榜同理。本页只收有标准答案的多模态理解类基准。

其它分类

5 个
按分类切过去看另一类基准怎么读,不是筛选条件

读榜前先看这几条

本分类范围2 个基准全站共 36 个基准 / 6 个分类,按分类归入本页
这一类看什么多模态导语、判据要点与问答都按这一类的实际考法写,题量与分数保留原值
分数怎么看来源混合官方榜、独立评测机构与厂商自报混用,卡片里逐条标注;跨来源横向比较要谨慎
状态怎么读活跃 / 已饱和 / 已停用已饱和说明前沿模型接近上限,已停用说明这个版本不再维护
没有的数据显示「—」没有 SOTA 模型或没有榜单链接时如实留空,不用估计值填充
适合谁看挑基准前先看这一类同场景的基准放在一起比,才分得出哪个数字能当证据

数据来自公开渠道整理:各基准的论文、维护方榜单与第三方跑分结果,数据日期 2026-10-19。