EviScene：当AI学会给图片“验货”而不只是“验真”

你有没有遇到过这种情况：朋友圈转发一张图,配文说"某某领导人出席某某活动",图片本身看起来清清楚楚,光线正常,没有P图痕迹,你刷了三遍都没找出毛病,结果转发出去才发现,这事根本没发生过,或者发生的时间地点完全不对。

这就是一个很尴尬的真相。

我们这几年一直在训练AI判断"这张图是不是AI生成的",各种检测模型层出不穷,准确率一个比一个高。但这件事和"图片里说的事是真的还是假的"根本不是一回事。一张百分之百真实拍摄的照片,完全可以配上一句彻头彻尾的谎言。反过来,一张AI生成的插画,如果诚实标注自己是示意图,也没撒什么谎。

来自吉林大学、中科院自动化所等多家机构的研究团队,就是盯上了这个被忽略的缝隙。他们提出了一个新任务,叫图像事实性评估。简单说就是:给你一张图,不告诉你任何文字说明,你自己去判断图里描绘的这件事到底有没有发生,发生的时间地点人物对不对。为了让AI学会这件事,他们搭了一个叫

这事到底难在哪

先说清楚一件事,这个任务和以前的"事实核查"研究不太一样。

过去的多模态事实核查,比如

AVerImaTeC

但

这就好比你去一家从没去过的餐厅吃饭,服务员直接把一盘菜端上来,什么都不说。如果菜单上写明了"这是糖醋里脊",你只需要尝一口判断味道对不对就行。但现在的情况是,菜单被撤走了,你得自己先猜这盘菜大概是什么,再去判断厨师做得对不对。如果一开始猜错了方向,比如把糖醋里脊当成了锅包肉去评判,那后面所有的判断都会跑偏。如果不先让AI学会"自己提问题",它很可能会被图片表面的信息带着跑,比如看到一个穿西装的人站在讲台上就下意识认定"这是某个正式会议",却完全没去深究这个人到底是谁、这个会议到底存不存在。

第二个难点更隐蔽一点。

就算AI搜到了一堆关于某个人、某个地点的资料,这些资料也未必能支撑它要核实的那件事。比如你搜一个运动员的名字,搜出来的新闻可能是他五年前参加的另一场比赛,照片里的奖杯也完全不是同一个。研究团队在论文里举了个很直观的例子：梅西捧着一个银色奖杯庆祝,配文说这是2022年世界杯夺冠的庆祝照。EviScene搜索后发现,2022年卡塔尔世界杯的奖杯是金色的

这提醒我们一件很容易被忽视的事:同一个人、同一个地点出现在证据里,不代表证据就支持了你要验证的那个具体情节。

针对这两个难点,研究团队设计了一套"边查边想、边想边查"的循环机制,这也是整篇论文最核心的技术思路。

EviLens

要训练和评估AI做这件事,首先得有一套靠谱的考题。研究团队搭建的EviLens,一共收录了10174张图片,其中3114张是"真实可信"的,7060张是"有问题"的。

这些图片的问题被归纳成十二种具体类型,又分成三大类。

第一类叫事件与关系错误,关心的是"这件事到底发生没发生,这个关系到底成不成立"。比如论文里举的例子,图中显示一场足球比赛比分是15比3,但真实的比分是11比10,这就是数字造假(论文称之为

第二类叫属性与细节错误,关心的是图里某个具体数字、文字、方位是不是对的。比如一张图声称香菜能去除87%的铅、91%的汞、74%的铝,这个数字看起来挺专业,但实际上没有任何可靠研究支撑这个比例,这就是典型的数字造假(

第三类叫情境错误,关心的是这张图被放在了正确的时间地点背景下吗。比如柏林现代美术馆的开馆仪式照片,实际上这栋楼当时还在施工,根本没完工,这叫事件再情境化(

构建这些测试图片的方式分两条路。一条是受控构建,研究团队先搞清楚一个真实的事实情况,然后故意在其中改一个细节制造矛盾,比如把一场比赛的真实比分改掉,这样做出来的"假图"问题类型是明确可控的。另一条是网络采集,直接从网上找已经在流传的真实图片和假新闻图片,保留它们本来的多样性和混乱感。

两条路径生成的候选图片都要经过严格的专家审核。两位领域专家分别审查每一张图的画面清晰度、核实目标是否落在图片实际内容上、证据是否真的支撑了标注的真假结论。如果两人意见不一致,会有第三位专家介入做最终裁决。

这个审核流程挺像医院里的"双签字"制度。一个药品从生产线下线之后,不是生产的人自己说合格就合格,必须经过两道独立的质检关卡,一旦两个质检员意见不一致,还要上报给更高级别的人来裁决。如果省掉这道流程,直接让AI生成图片就拿去当考题,很可能出现一张图实际上根本没体现出设计者想要的那种"错误类型",结果训练出来的模型学到的是错误的判断标准。

最终,数据集被切分成8647张训练图和1527张测试图,相关联的图片(比如同一事件的多张照片)会被归到同一个分组里,避免训练集和测试集之间信息泄露。

EviScene:一个会边查边改主意的侦探

有了考场,接下来就是答题的人。EviScene的核心设计,是一个基于

ReAct

EviScene手里有三类工具。第一类是视觉工具,能放大图片局部、识别文字、数物体、检查画面里的空间关系。第二类是检索工具,能做网页搜索、以文搜图、以图搜图。第三类是证据工具,能读网页正文、把检索回来的参考图和原图做比对。

这三类工具听起来很多,但真正关键的不是"有多少工具",而是智能体怎么用新发现的信息去不断修正自己要问的问题。论文里有个例子讲得特别清楚:AI先看图识别出画面里有一个奖杯,然后它去搜这个奖杯属于哪场赛事,搜到结果说这是2022年世界杯庆祝现场的官方照片。接下来它没有就此停下,而是拿着这张官方参考图,和手头这张待核实的图再做一次直接比对,结果发现两边的奖杯形状完全不同,一个是单柄酒杯造型,一个是双把手银杯造型,两者根本不是同一个物件。

这个过程很像侦探破案时的"倒查"手法。侦探不会一拿到线索就直接下结论,他会先带着一个初步猜测去查监控,查到监控之后发现监控里的细节和原来的猜测对不上,于是修改自己的问题,再去查第二份证据,直到所有证据能拼成一条连贯的时间线为止。如果侦探查到第一份证据就草草收工,很可能被一个"看起来很像"但实际上是另一回事的巧合误导,就像前面说的奖杯案例,如果AI查到"这是世界杯夺冠现场的照片"就立刻停下,它会误以为这证实了图片内容,而完全忽略了奖杯本身对不上这个关键矛盾。

智能体工作的时候,每一轮会产生一小段推理文字、调用一次工具、拿到一个观察结果,这个三元组会被追加进历史记录里,供下一轮决策参考。整个过程最多持续24轮,直到AI主动判断"信息已经够了",或者到达轮次上限,才会进入最后的终审环节,输出一个支持或推翻的判断,并附上引用的具体证据编号。

训练这个脑子:两步走

光有一个工具齐全的框架还不够,真正让EviScene变聪明的是背后的训练方法,分两个阶段。

第一阶段叫

这一步相当于"抄作业式学习",让小模型先模仿一个水平更高的老师是怎么一步步破案的。

但光抄作业有个问题,老师做题的套路未必完全适合学生自己上手时遇到的情况。于是研究团队设计了第二阶段,叫

PSD的运作方式有点意思。先把当前训练中的模型复制一份冻起来当作"自我老师",让它自己去跑一批新的调查任务。然后用另一个外部模型(论文里用的是

这个设计挺像给学生改错题时的做法。老师不会直接把正确答案写在卷子上,而是在学生卡住的那一步旁边写一句"再检查一下这个条件是否用对了",让学生自己想明白该怎么走下去。如果老师直接把答案写出来,学生确实能把这道题改对,但下次遇到类似的题还是不会做,因为他学到的不是解题思路,是死记硬背的答案。PSD刻意不让提示泄露答案,就是为了避免模型学到的只是"背答案"而不是"学会怎么查证据"。

数据说话:到底有没有用

说了这么多设计思路,最终还是要看效果。

论文在1527张测试图片上,对比了直接判断和EviScene智能体两种模式,涉及

直接判断,顾名思义就是把图扔给AI,不给任何工具,直接问"这是真的还是假的"。结果显示,不少模型在这种模式下表现出很明显的偏科。比如Gemini 3.1 Pro,对"假图"的识别率高达96.52%,但对"真图"的识别率只有28.65%,说明它几乎是"宁可错杀不可放过"的策略在起作用。

这里要引入一个指标叫

另一个重要指标是

这个指标特别关键,因为一个瞎猜对的答案和一个有真凭实据的答案,价值完全不一样。你去看病,医生说"你这病没事",如果他只是随口一说猜中了,和他拿着检查报告给你解释清楚病理,这是两种完全不同的靠谱程度。

数据显示,给模型装上EviScene的调查框架之后,所有五个底座模型的

而最值得关注的,是经过完整两阶段训练(SFT加PSD,论文里简称Full)的Qwen3.5-9B版本。它只是一个90亿参数的"小模型",但在平衡准确率上达到79.05%,严格证据充分率达到52.26%,是所有被测试的智能体里SESR最高的一个,甚至超过了参数量是它四十多倍的397B大模型版本,在

下面这张对比表能说明训练的分阶段效果:

| 训练阶段 | 平衡准确率 | 支持类召回率 | 推翻类召回率 | 严格证据充分率 |

|---|---|---|---|---|

| 基础智能体(无SFT无PSD) | 72.34% | 51.19% | 93.48% | 42.89% |

| 仅经过SFT | 78.81% | 76.39% | 81.22% | 50.49% |

| **SFT+PSD(完整版)** | **79.05%** | **80.11%** | 78.00% | **52.26%** |

从这个表能看出一个很有意思的变化规律。基础版本几乎是"宁可信其假"的,支持类召回率只有51.19%,也就是说如果一张图真的是可信的,这个基础智能体接近一半的时候会误判它是假的。经过SFT训练后,支持类召回率一下子跳到76.39%,两个类别的差距从42.29个百分点收窄到4.83个百分点。再经过PSD训练,差距进一步收窄到2.11个百分点,整个模型的判断变得更加均衡,不再明显偏向某一边。

研究团队还做了拆解实验,看三类工具分别起了多大作用。去掉网络搜索,BAcc和SESR分别掉4.68和16.37个百分点;去掉以图搜图/以文搜图,分别掉4.53和12.25个百分点;去掉证据核验(读网页、比对参考图),分别掉2.50和6.22个百分点。每一次砍掉一类工具,SESR掉得都比BAcc更狠,这说明工具不仅帮AI做出正确判断,更重要的是帮它把判断理由讲清楚,证据链条才站得住。

还有一点挺有意思,研究团队专门测试了经过训练的EviScene面对不同AI绘图工具生成的图片时表现如何,包括

写在后面

这篇论文让我重新思考了一个很容易被忽视的问题:我们这些年投入巨大精力去做的"AI生成内容检测",解决的其实是另一个问题。

一张图是不是AI画的,和这张图说的事是不是真的,是两条完全不相交的轴。你可以用最先进的检测技术把一张图标记为"百分之百真实拍摄",但图配的文字描述可能完全是在撒谎,因为这不是图像生成技术的锅,是信息发布者的锅。反过来,一张用AI生成的示意图,如果老老实实标注了"这是艺术家对未来城市的想象图",它也没撒谎。

这意味着内容真实性治理这件事,光靠"查像素里有没有生成痕迹"这一条路是堵不住的。

另一个让我反复琢磨的细节,是PSD训练那套"不给答案只给方向"的设计。这个思路放在教育领域其实也成立。很多在线教育产品的痛点就是,一旦学生答错题,系统往往直接甩出正确答案,学生看完就划走了,下次遇到类似变体题照样卡壳。EviScene这套机制提示了一种更有效的纠错方式:定位到最早出错的那个决策点,给一个不泄露答案的程序性提示,让学习者自己走完剩下的路。这个"自己走完"的过程,恰恰是知识真正内化的那一步。

论文里还提了一个没有展开说透的问题,就是模型在处理"证据缺失"和"证据矛盾"时的区别对待。一次成功的、方向明确的搜索什么都没搜到,这本身是一种观察结果,但它不能直接当成"假图"的证据。这个边界其实很微妙,现实中很多谣言恰恰就是靠"搜不到反驳证据"来壮大声势的,而EviScene的训练提示里专门强调了这一点不能作为判假的充分理由。这个细节值得单独拿出来琢磨:信息时代的很多争议,根源不是有没有证据证伪,而是我们怎么对待"暂时没找到证据"这件事本身。

下次你再刷到一张"看起来很真"的图片配文的时候,也许可以多问自己一句:这张图里的细节,真的能单独支撑那句配文说的事吗,还是我只是因为画面看起来够清晰、够逼真,就下意识信了?

Q&A

Q1：EviScene是什么？

A：EviScene是一个多模态智能体,它能针对一张图片自主提出事实性问题,通过网络搜索、以图搜图、证据比对等工具反复查证,最终给出一个带有证据支撑的"可信"或"存疑"判断,而不只是判断图片是否由AI生成。

Q2：EviLens数据集和以往的事实核查数据集有什么区别？

A：EviLens不提供任何现成的文字声明,只给一张图和一句通用指令,系统必须自己从图像内容中提炼出需要核实的事实问题。它包含10174张图片,涵盖十二种事实错误类型,同时评估判断准确率和证据是否真正充分。

Q3：训练后的小模型EviScene表现怎么样？

A：经过SFT加PSD两阶段训练的Qwen3.5-9B版本,平衡准确率达到79.05%,严格证据充分率达到52.26%,是所有测试模型中证据充分率最高的,甚至超过参数量大四十多倍的397B版本模型。