Prithvi-EO-2.0遥感模型:平均90.98%准确率下藏着多大偏差?
你可能听过这样一个说法:某个AI模型在标准测试集上拿了90%的高分,大家都夸它厉害。但很少有人追问一句,这90%里面,有没有哪个角落被模型彻底放弃了?这不是一个假设。2026年的一篇论文里,研究者发现一个叫Prithvi-EO-2.0的遥感大模型,在m-EuroSAT这个土地分类任务上拿到了90.98%的总体准确率,听
有个说法你可能听过:某个AI模型在标准测试集上拿了90%的高分,大伙都夸它强。可很少有人接着问一句——这90%里头,有没有哪块地方是模型压根放弃了的?
这不是假想。2026年的一篇论文里,研究者盯上了一个叫Prithvi-EO-2.0的遥感大模型。在m-EuroSAT这个土地分类任务上,它交出90.98%的总体准确率,数字看着挺体面。但把测试数据按生态环境归组之后,最差的那组只剩83.72%。农作物类型分割任务上的落差更扎眼:总体mIoU(衡量分割准确度的指标,数值越高,预测区域和真实区域重合得越好)是27.30%,可到了干旱和矿质地表这类地区,直接掉到18.47%。
前后差了将近9个百分点。落到实际应用里是什么概念?假如你所在的机构正用这类模型监测全球农田,模型在温带草原上表现亮眼,一跑到中亚荒漠边缘就开始大面积误判。而你可能根本蒙在鼓里——没人提醒过你,平均分底下埋着这么深的沟。
核心问题:平均分能骗人
论文要处理的问题,说白了很朴素:评价一个遥感AI模型行不行,眼下大家基本只盯一个总分。
遥感基础模型*:靠海量卫星图像预训练出来的通用AI模型,训练完成后可以“借”去做各种具体任务,比如识别农田、监测洪水、分类地表植被,不必每次都从零训起。
这类模型眼下很吃香。SatMAE、Prithvi-EO-2.0、DOFA这些名字背后,都是拿几亿甚至十几亿张卫星图片喂出来的大家伙。学界已经备好了GEO-Bench这样的标准化测试集,给出一堆分类和分割任务,模型跑一遍,报个总体准确率或者mIoU,论文一发,就算交差。
问题在于,地球表面压根不是均匀的。
同样一块“草地”,长在地中海气候区和长在热带稀树草原,光谱特征、季节变化、连摄像头拍下来的颜色分布都可能对不上。一个模型要是训练数据里塞满了温带森林样本、沙漠边缘的却见得很少,它在前面表现好、在后面表现差,几乎是必然的。可总分这个数字会把两边的差异彻底抹平——好比给全班算平均分,却不看有没有人回回考倒数第一。
论文由此提出一个核心概念,叫生物群落偏差。
生物群落*:指大尺度的生态区域,像热带雨林、温带草原、苔原、荒漠,这些地方气候、植被和环境条件相近,是生态学给地球表层分类的一种方式。
生物群落偏差*:指同一个AI模型在不同生态区域上出现系统性差异,也就是模型在某些生态环境里稳定地比在另一些环境里差。
要是不专门去测这种偏差,会怎样?你会把一个“看着很厉害”的模型部署去做全球监测,却不知道它在某些大洲的某些地区其实是半瞎的。这不是纸面上的担心,论文给出的具体数字已经说明问题真实存在。
第一步:给地球的每个角落贴标签
想测这种偏差,头一件事是搞清楚每个样本来自哪片生态区域。
研究者用了一份叫RESOLVE的全球陆地生态区数据库,它把地球陆地切成14种地形生物群落,热带雨林、苔原、荒漠都在里面。每张卫星图像样本都带经纬度坐标,研究者算出图像块的中心点,再拿这个坐标去查生态地图,确定这块地属于哪种生物群落。
麻烦也在这儿。14种分得太细,不少下游数据集里某些生物群落的样本少得可怜,比如某个测试集里某类地形只有14张图片。样本量这么小,单独拿来算准确率波动极大,根本撑不起稳定的结论。
为此,论文提出一种分两级的归组办法:样本先被准确划入14种细分生物群落,这14种随后又归并为6个范围更大的生态宏观组。这6组依次对应常年生物量偏高的区域(热带雨林是典型)、季节波动明显的森林、处在过渡地带的草原灌丛、气温低且生长周期短的地区(苔原、高山草甸属于这一类)、干旱且地表多矿物的地带(比如沙漠),以及靠水文过程调节的生态系统(红树林、洪泛草原即属此类)。
这个思路,其实很像人口普查时的分层抽样。
做一次全国民意调查,如果直接按省份分组发问卷,有些省份人口太少,样本撑不住结论。统计学家通常会把人口结构相近的省份并成几个大区再分析,地域差异的信息留住了,样本太少导致的荒唐结论也避开了。论文把14种生物群落做宏观合并,逻辑一模一样:硬拿全部14类当分析单位,很多类里样本只有几十个,算出来的“组内准确率”本身就不可信,反倒会误导决策者。并成6大类之后,生态学意义上的关键区分还在,每组的样本量也够得上统计意义。
第二步:冻住大模型,只看它暴露了什么
分组方法有了,下一步是测模型表现。论文在这里做了一个关键选择,叫冻结骨干网络评估协议。
冻结骨干网络*:指下游任务训练时完全不更新预训练模型本身的参数,只在外面接一个很小的分类头或分割解码器去训练,预训练部分始终不动。
为什么这么干?论文想干净地比较模型自身的表示能力有没有偏差,而不是让“后续微调能不能补回来”搅浑水。要是允许整个模型跟着任务一起微调,哪怕原始预训练阶段存在严重的生态偏见,只要下游数据够多,模型多少能被“掰”回来一些——这样一来,预训练阶段到底埋了什么雷,你就测不出来了。
论文挑了三款有代表性的遥感基础模型做横向对照:Prithvi-EO-2.0 是 3 亿参数的时空 Transformer,SatMAE 是 3 亿参数的视觉 Transformer,DOFA 则只有 8600 万参数、支持动态波长输入。四个任务上,每个模型各跑三次,随机种子都不同,为的是排除运气成分对结论的干扰。
四个任务里有三个出自 GEO-Bench 标准测试集:单标签分类 m-EuroSAT,判断一块地属于什么土地类型;多标签分类 m-BigEarthNet,同一块地可以同时归入多个类别;作物类型分割 m-SA-Crop-Type,在像素级别判断每块地种的是什么作物。第四个数据集由研究者自己搭建,名为 MMEarth20K,按“反向频率加权”的思路刻意让水文调节型生态系统这类稀有生态区域占到 6%,而在原始数据里,这类地区占比要低得多,真实世界中几乎被忽略不计。
**结果:平均分之下的裂缝**
数字一摆出来,问题比预想的更扎眼。
相对简单的 m-EuroSAT 上,Prithvi-EO-2.0 总体 macro-F1 为 90.98%,可最差的那个生态组——高生物量地区,测试样本仅 25 个——只拿到 83.72%。7 个百分点的落差意味着,在这些地区模型出错的概率比别处高出近一半。
m-BigEarthNet 多标签分类的差距拉得更大:总体 F1@opt 为 60.09%,最差组是过渡性草原灌丛地区,仅 46.12%,整整相差 14 个百分点。
作物分割任务 m-SA-Crop-Type 的落差最刺眼。总体 mIoU 为 27.30%,干旱矿质地表那一组只有 18.47%,相差近 9 个百分点。换句话说,在这些地区,模型漏判、错判作物类型的比例远高于其他地方。
把这些数字并排放在一起,指向同一件事:无论哪种任务、哪个模型,只要按生态组拆开看,偏差就存在。而且这不是某一款模型的专属毛病,Prithvi-EO-2.0、SatMAE、DOFA 三种架构全部中招,区别只在于程度轻重和具体落在哪个生态组上。
好比一家连锁餐厅对外宣称“全国平均好评率 95%”,城市门店确实好评如潮,偏远小镇门店却投诉不断。平均分本身没说谎,它只是把那些真正该被看见的角落盖住了。
**怎么修:三种药方各有代价**
诊断出问题后,论文没有停在这一步,又试了三种缓解手段。三者遵循同一条约束:预训练模型本身不动,只在外层做文章。
第一种叫动态生物群落重加权,简称 DBR。
动态生物群落重加权*:训练全程盯着每个生态组在验证集上的表现,哪组差就调高它在损失函数里的权重,哪组好就调低,隔一段时间重新评估一轮,像一架来回调平衡的跷跷板。
逻辑很直白:哪个组考得差,就多逼模型在哪个组上下功夫。但论文的消融实验表明,这个“用力程度”得拿捏准。调节力度(论文中称为 α)一旦调得太大,比如到 0.8,最差组的表现反而从 84.35% 掉到 82.38%,整体还更不稳定。这跟家长逼孩子补习一个道理:力度合适能查漏补缺,逼过头就适得其反,连原本擅长的科目也可能跟着出问题。
第二种叫生物群落正交线性探测,简称 BOLP。
生物群落正交线性探测*:先算出每个生态组在模型内部表示空间中的“平均位置”,再找出组与组之间差异最大的几个方向,把这些方向从每个样本的表示里“投影掉”。效果等于主动抹去与生态分组强相关的信息,只留跟任务本身相关的内容,再拿去训练任务头。
这个思路乍听有点反直觉:故意丢信息,模型反而更稳?实验结果确实支持。在 m-BigEarthNet 上,BOLP 把 Prithvi-EO-2.0 的最差组 F1 从 46.12% 提到 50.27%,整体 F1 也从 60.09% 升到 62.75%。
就像面试官发现自己总不自觉偏爱某种口音或穿衣风格的候选人,索性先把简历上能暴露这些信息的部分遮住,只留跟岗位能力真正相关的内容再判断。遮掉的东西若真与能力无关,判断反而更公平。可不遮会怎样?论文里就有反面案例:在 MMEarth20K 这个密集分割任务上,BOLP 把总体 mIoU 从 47.99% 拉低到 43.31%,最差组分数也跟着降。原因可能在于,像素级分割任务中,生态环境本身的视觉特征(植被密度、地表反照率等)并非无关的“噪声”,恰恰是帮模型判断像素类别的重要线索,硬抹掉会把有用信息一起扔掉。
第三种是 GroupDRO(组分布鲁棒优化),学界已有方法,核心是在训练时专门对损失最大的组加重惩罚,逼模型在最难的组上也不能摆烂。在 m-EuroSAT 上,它把最差组的 NFR(归一化失败范围,衡量组间差距的相对大小,数值越小越均衡)压到 5.67%,三种方法里表现最稳。
三种方法摆在一起比,论文给出一个不算讨喜却诚实的结论:没有任何一种方法能在所有模型、所有任务上稳赢。
换到分割任务上,某些在分类里见效很快的做法反而会拖后腿;同样一种方法,放在某个模型架构上很顺手,架构一换,表现就一般了。医学里也有类似的情况:一样的药,不同病人吃下去反应并不相同。说到底,没有什么万能药,只能看具体场景做取舍。
**不完美的地方,论文自己也承认**
这篇论文没把自己包装成完美方案,反倒专门列了一节讲局限性,这一点挺值得尊重。
比如生态区域的标注是按图像块中心点判断的,一块地若正好横跨两种生态区(比如森林和草原的过渡地带),这种“一刀切”的标注方式必然带噪声。论文也承认,这只是一套“一致的分组规则”,不是像素级精确的生态地图。
也不是每个数据集都把6个宏观生态组占全,有些测试集里某个组只落到十几个样本,这么小的样本量算出的“最差组分数”本身就带波动,很难当成铁律。
论文还坦言,生物群落偏差只算地理偏见问题的一个侧面。传感器差异、地理分布不均、空间分辨率差异、拍摄时间差异,这些因素带来的偏差,这套框架都没有覆盖。说白了,它更像针对某一项指标的专项检查,而不是一次“全面体检”。
**写在后面**
读这篇论文,那些具体的百分点差距倒没怎么触动我。真正让我在意的是一个更基础的问题:眼下评价AI模型的办法,本身就偏向“平均主义”,总分够高就算过关,很少有人追问这个总分究竟是怎么凑出来的。
很多年前教育领域就为“用平均分还是用及格率评价一个班级”吵过,逻辑与此类似。后来大家慢慢明白,只看平均分会盖住两极分化:一个班一半人考100分、一半人考50分,平均分75,看着还行,其实问题很大。AI模型评估走到今天,似乎也在经历同样的认知升级,从“总分崇拜”转向“分布意识”。
有个细节值得单独拎出来说。论文里那个刻意构造的MMEarth20K数据集,按反向频率给稀有生态组多分了配额(从28%到6%的梯度分布),等于人为造出一个“长尾但没那么极端”的测试环境,专门看模型会不会在小众场景里直接崩掉。这种“故意给冷门场景留测试空间”的路子,和不少产品做无障碍设计测试时的思路挺像:不是等用户抱怨了才修,而是先假设某些场景一定会被忽略,再主动去验证这个假设对不对。
那下一个问题就来了:连遥感AI模型都有这种被平均分盖住的地域偏差,我们每天在用的语言、人脸相关AI系统,会不会也藏着类似的裂缝,只是还没想到该按什么去分组测量?
Q&A
Q1:FairRSFM是什么?
A:FairRSFM是一套评测框架,专门检测遥感AI大模型在不同生态区域(雨林、沙漠、草原等)表现是否一致,用意是揭露被总体平均分盖住的地区性偏差。
Q2:为什么模型总分很高,却在某些地区表现很差?
A:总体平均分把表现好和表现差的区域混在一起算,差异就被盖住了。论文发现Prithvi-EO-2.0模型总体准确率90.98%,最差生态组只有83.72%,这个差距被平均分藏了起来。
Q3:论文提出的修复方法管用吗?
A:DBR、BOLP、GroupDRO三种方法各有各的效果,但没有一种能在所有模型和任务上都稳赢。比如BOLP在分类任务上能抬升最差组表现,到了像素级分割任务上反而会让效果变差。