FlagEval

FlagEval

AI TOOL PROFILE工具资料

智源推出的开放大模型评测平台,用统一框架给模型打分

官网地址 https://flageval.baai.ac.cn/#/trending

访问官网
价格官网未标价
平台Web
归类大模型与开发平台
收录2026-10-11
复核2026-10-11
编辑评分 4.2 / 5

FlagEval编辑总结

EDITOR REVIEW编辑评测

FlagEval(天秤)是北京智源人工智能研究院推出的开放评测平台,目标是把大模型的能力放到一套公开、可复现的标准下比较。它采用「能力—任务—指标」的三维评测框架,从对话、问答、情感分析等应用场景切入,覆盖多模态与大语言模型。对使用者来说,价值在于不需要自己搭一套评测流水线,就能拿到横向对比结果;局限在于评测本身侧重公开基准,未必贴合某个具体业务的真实分布,选型时仍需结合自己的数据做二次验证。

FlagEval是什么?

FlagEval 是北京智源人工智能研究院(BAAI)推出的科学、公正、开放的大模型评测体系及开放平台,面向研究人员和工程团队,提供评估基础模型与训练算法性能的工具和方法。

它的核心是一套「能力—任务—指标」三维评测框架:先把模型能力拆成若干维度,再映射到对话、问答、情感分析等具体任务,最后用对应指标量化打分。评测对象既包括开源模型,也包括闭源模型,并覆盖多模态方向,因此可以放在同一张表里做横向比较。

使用方式大致分两类:一类是直接看平台给出的榜单与趋势,用来判断某个模型在自己关心的能力上处于什么位置;另一类是把评测当作研发环节的一环,在模型迭代时反复跑同一套任务,观察改动带来的能力变化,避免只凭主观感受判断进步。

FlagEval核心功能

CAPABILITIES工具标签

三维评测框架

把评测拆成能力、任务、指标三层,能力维度对应到具体任务,再由指标给出量化结果。好处是同一份榜单能回答「强在哪」而不是只给一个总分。

公开榜单与趋势

平台提供模型的横向排名与随时间变化的趋势视图,可以直接看到不同厂商、不同规模模型在同一批任务上的相对位置,省去自己复现基准的工作量。

覆盖开源与闭源模型

评测对象不限于开源权重模型,闭源 API 模型也被纳入同一套框架比较。这对需要在自部署和调用外部接口之间做取舍的团队比较实用。

多模态评测

除大语言模型外,评测体系也覆盖多模态方向,可以观察模型在图像等非纯文本输入上的表现,而不是只看文本问答能力。

训练算法评估

除给模型打分,框架也用于评估训练算法的性能。做微调或预训练研究的团队可以把它当作对照尺,判断某种训练策略是否真的带来能力提升。

多场景任务集

任务设计围绕实际应用场景展开,涵盖对话、问答、情感分析等方向,因此评测结果更接近「拿去做这类事情行不行」,而不是纯学术基准的分数。

评测方法开放

平台定位为开放评测体系,方法论与评测设计对外说明,便于研究者理解分数是怎么来的,也方便在此基础上扩展自己的评测任务。

FlagEval值不值得用?

VERDICT工具标签

当你需要横向比较多个模型、又不想自己搭评测流水线时,FlagEval 值得先看一眼,它能给出同一框架下的相对位置,尤其适合选型前做初筛和写材料时找参照。但它是通用公开基准,任务分布未必贴近你的业务场景,所以结论只能当参考:真正定模型之前,还是拿自己的数据跑一轮小规模测试。如果是做模型训练研究,它的能力—任务—指标框架更适合用来对比不同训练策略的效果,而不是只看单个总分。

建议选它的情况

  • 需要在多个开源与闭源模型之间做初步选型
  • 做模型训练或微调研究,想用统一标准对比策略效果
  • 写调研材料时需要公开、可引用的评测参照
  • 关注多模态模型能力表现的研究人员

不建议选它的情况

  • 业务场景高度垂直,公开基准与真实数据分布差异大
  • 只需要一个能直接调用的模型接口,而非评测结论
  • 希望评测结果直接给出业务落地建议而非能力分数

FlagEval使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 先看趋势页进入平台后先从趋势视图入手,看模型排名的变化曲线,比只看某一时刻的静态榜单更容易判断某个模型是持续进步还是偶发高分。
  2. 按能力维度筛选不要只看总榜。先想清楚自己关心的是对话、问答还是情感分析,再到对应任务维度下看排名,结论才和你的用途对得上。
  3. 分清开源与闭源同样分数下,开源模型可自部署、闭源模型调用省事。看榜时把这两类分开比较,避免拿不可自部署的模型去和本地部署方案直接对比。
  4. 记下评测口径看结果时留意该任务用的是哪套指标,不同指标对同一模型的排序可能不同。引用分数时把指标一起记下来,后续对比才不会错位。
进阶省时间也省钱
  1. 当作回归测试基准模型迭代时反复跑同一批任务,关注的是自己模型分数的变化趋势,而不是绝对排名。这样能较早发现某次改动让某类能力退步。
  2. 和自有数据交叉验证把榜单排名当作候选集筛子,挑出靠前的几个模型,再用自己的业务样本跑一轮小规模对比。公开基准负责缩小范围,自有数据负责下结论。
  3. 关注任务设计而非总分读评测结果时多花时间看任务是怎么构造的、指标怎么算的。理解口径之后,你才能判断这个分数能不能迁移到自己的场景。
  4. 按能力拆解选型如果业务同时要求对话和结构化问答,不要只看综合排名,分别查这两项能力下的表现,必要时选两个模型组合使用,而不是强求一个全能模型。

FlagEval适合谁用?

WHO IS IT FOR工具标签

模型选型的技术负责人

推荐

需要在几个候选模型之间做初筛时,可以用统一榜单快速缩小范围,再拿业务数据做最终验证,省掉自己搭基准的起步成本。

大模型方向的研究人员

推荐

做训练算法、微调策略对比时,能力—任务—指标框架可以作为公共参照系,让不同实验的结果放在同一口径下比较。

多模态方向的开发者

有条件

关注图像等非纯文本输入表现时,平台的多模态评测部分能提供参照,但具体到自己的任务类型,仍要看是否被覆盖。

业务场景高度垂直的团队

有条件

如果业务集中在某个细分领域,公开基准的任务分布和真实数据差距可能较大,榜单排名只能当参考,不能直接当作选型结论。

只想快速接入模型接口的开发者

不推荐

平台提供的是评测结论与方法,不是可直接调用的模型服务。若目标是尽快把模型接进产品,这里帮不上直接的忙。

FlagEval优点和缺点

PROS & CONS工具标签

优点

  • 由北京智源人工智能研究院推出,评测体系有明确的方法论说明
  • 采用能力—任务—指标三维框架,能看出模型强在哪而不只是总分
  • 同一框架下比较开源与闭源模型,便于做部署方式取舍
  • 覆盖多模态方向,不局限于纯文本问答能力
  • 提供随时间的趋势视图,可观察模型排名的变化过程
  • 任务设计贴近对话、问答、情感分析等实际应用场景
  • 定位开放评测,方法可被研究者理解和复用

缺点

  • 公开基准的任务分布未必贴合具体业务场景,结论需二次验证
  • 以评测结果为主
  • 垂直领域能力覆盖有限,冷门任务类型可能找不到对应榜单
  • 同一模型在不同指标下的排序可能不一致,需要自行判断口径
  • 榜单结果随模型版本更新而变化,引用时需注明时间与口径

FlagEval常见问题

FAQ工具标签
FlagEval 到底是什么,是一个能直接用的模型吗?

不是模型,而是评测体系与开放平台。它做的是把不同大模型放到同一套「能力—任务—指标」框架下打分并排名,输出的是比较结论,而不是可以调用的模型接口。如果你的目标是给产品接入一个模型,需要去模型提供方那里拿服务。

它主要评测哪些能力?

评测围绕实际应用场景组织,涵盖对话、问答、情感分析等方向,并把模型能力拆成多个维度分别打分。除纯文本的大语言模型外,也覆盖多模态方向,可以观察模型在非纯文本输入上的表现。

开源模型和闭源模型能放在一起比吗?

平台把它们纳入同一套评测框架,因此分数是可以横向看的。但选型时要分开考虑:开源模型可自部署、数据不出内网;闭源模型通常接入更快、维护成本更低。两者分数相近时,决定因素往往在部署方式和成本结构,而不在分数本身。

榜单排名靠前,是不是就说明适合我的业务?

不一定。公开基准的任务分布是通用的,和你具体业务的输入分布可能有明显差异。更稳的做法是先用榜单把候选范围缩小到几个模型,再拿自己的业务样本跑一轮小规模对比,用实际表现而不是榜单名次来做最终决定。

做模型训练研究,这个平台有什么用?

除了给模型排名,框架也用于评估训练算法的性能。做微调或训练策略对比时,可以把同一批任务当作固定的对照尺,反复跑并观察自己模型的分数变化,这样判断某次改动是否真的带来能力提升,比只看主观感受可靠。

看榜单时要注意什么?

留意每个任务用的是哪套指标,以及结果对应的时间点。不同指标对同一模型的排序可能不一样,模型也会持续更新,所以引用分数时最好把任务、指标和时间一起记下来,否则后续对比容易错位。

非研究背景的人能用吗?

可以看,但要带着问题看。如果你只想知道某个模型在对话或问答上大致处在什么水平,趋势和排名足够直观;如果想据此做采购或技术决策,还需要理解任务设计和指标口径,否则容易把通用分数误当成业务结论。

FlagEval竞品对比

COMPARISON工具标签
工具编辑评分价格核心功能平台
FlagEval本工具 4.2 未标价 三维评测框架;公开榜单与趋势;覆盖开源与闭源模型;多模态评测 Web
AGI-Eval — 未标价 AGI-Eval 是由上海交通大学、同济大学、华东师范大学、DataWhale 等高校和机构 —
Ai-Ceping — 未标价 领先的大模型评测平台 —
Ai-Ceping — 未标价 领先的大模型评测平台 Web / 微信小程序
LLMEval3 — 未标价 LLMEval 是由复旦大学 NLP 实验室推出的大模型评测基准,最新的 LLMEval-3聚焦 Web / GitHub
智源悟道3.0 — 未标价 北京智源人工智能研究院(简称:智源研究院 Beijing Academy of Arti —