AI生成灾情简报:格式完整,数字却对不上

资讯 腾讯网 作者:科技行者 全文 4287 字 · 约 11 分钟读完 分类学术研究

你有没有遇到过这种情况:一份报告格式工整、每个该有的栏目都填满了,看起来专业极了,但你细读之后发现,里面关键的数字对不上,日期是错的,连发布机构都没写清楚。这不是危言耸听,这正是一篇最新论文揭示的问题,而且问题出在一个你可能想不到的地方:AI生成的灾难情况报告。**灾难发生后,第一时间需要的不是故事,是...

所属频道 前沿研究

格式工整、栏目齐全、看上去专业得很的报告,你碰到过没有?细读才发现关键数字对不上,日期写错了,连发布机构都没交代清楚。

这话并非耸人听闻。一篇最新论文揭示的正是这个问题,而且出问题的地方有点出人意料:AI生成的灾难情况报告。

灾难发生后,第一时间需要的不是故事,是能救命的信息

想想台风刚登陆的那几个小时。救援队要知道哪里断了水、断了电,医院物资够不够,灾民安置在哪几个点。这种时候,人道主义组织会发布一种名为“情况报告”的文件。

情况简报,英文叫sitrep,由人道救援组织发布,是带日期、标明发布机构的操作性文件,作用是把当前需求、已采取的行动、存在的缺口和关键数字告诉前线团队。

听着简单,要求其实很高。它不是写给普通读者看的新闻摘要,是给决策者直接拿去调配资源用的。其中每一个数字、每一个日期,都可能牵动真实的救援行动。

大语言模型这几年火起来之后,自然会有人琢磨:能不能让AI读一读社交媒体上的灾情帖子,自动生成这种报告?真能行的话,速度会比人工快得多。这篇论文做的,就是认真检验这个想法到底靠不靠谱。

当“信息齐全”成为唯一的评分标准,会出什么问题

论文作者发现,现有评测方法大多在问一个简单的问题:这份AI生成的报告,有没有提到该提到的话题?

可这恰恰是个陷阱。

一份报告可以把15个该讨论的主题都蜻蜓点水提一遍,看着面面俱到,偏偏在最关键的几处——具体死了多少人、什么时候发布的、谁发布的——全是空的或者错的。这就像一个学生交上来的作业,目录写得工工整整,每章都有标题,翻开内容却全是空话,没有一个具体数据。老师光看目录打分,肯定要被这种“伪完整”骗过去。

研究者把这个现象叫做

操作完整性

为了验证这件事,研究团队做了件挺扎实的活:找来121份真实的人道组织报告,覆盖气旋、地震、洪水三类灾害、五场灾难,再用AI生成261份对应的报告,然后从头搭一套评分体系,一点点比对。

从真实报告里“长”出来的评分标准,而不是凭空设计的

研究者没有自己拍脑袋定评分指标,而是让AI去读56份真实的赛克隆伊代气旋灾情报告,一句一句标注其中出现过的信息类型,再把相似的标注聚类、归纳,最后由作者本人审核,提炼出15个核心信息栏目。

比如伤亡与受灾人口、人道救援缺口、资金捐赠情况、供水与卫生设施这些。这个过程叫

定性内容分析

有个细节很有意思:整个编码过程由AI模型完成,不是人工一条条读出来的。研究者担心AI的“偏见”会因此渗进分类标准本身,所以每一步都留下审计记录,谁都可以回头查AI是怎么下判断的。这份谨慎其实也说明,用AI辅助研究这件事本身就得反复校验,不能当黑箱用。

15个栏目定下来之后,评分规则是这样:每份报告的每个栏目,按“缺失”“部分提及”“完整提及”三档打分,加权平均得出一个完整性分数。参照标准不是理论上的满分1.0,而是真实人类报告算出来的平均分,叫做

AI报告的分数居然和人类打平,甚至略微超过

这是整篇论文里最有张力的一个发现。

由谷歌Gemini模型担任评委打分时,表现最好的AI生成报告在赛克隆伊代这场灾难上拿到0.827分,人类专业报告的平均分是0.821分。

数字上看,AI赢了。

研究者没有停在这一步,他们做了统计检验,发现这个微弱优势在统计学意义上完全站不住脚,置信区间横跨正负两端,说明差距很可能只是噪音。更打脸的是,换一个评委模型(

换句话说,「AI报告和人类写得一样好」这个判断本身就站不住脚,换一个裁判,胜负就能颠倒过来。好比两名选手较量,裁判A判定AI赢了0.1分,裁判B却判人类赢了2.6分,究竟谁胜出,谁也说不清。

**真正能检验成色的是数字和来源,AI恰好在这上面掉了链子**

「栏目齐不齐」这种指标容易蒙混过关,研究者随后查的那一层,才是实打实的硬功夫:AI报告列出的数字,有多少能跟官方发布的真实数据对上?

答案不太好看。三场主要灾难中,AI生成的报告能复现同一天官方数字的比例,只有5.4%到11.0%。

放到具体场景里看:假如官方报告当天给出了100个具体数字,包括伤亡人数、物资数量、安置点数量等,AI报告能对上的只有5到11个。其余90%以上,不是编造出来的,就是压根没写。

背后还有一层原因。AI报告的信息来源是社交媒体帖子,并非官方渠道。研究者专门核查了当天的社媒帖子中包含多少官方公布的数字,结果只有14.3%到19.6%。

也就是说,模型再聪明,也没法凭空造出社媒帖子里根本不存在的信息。

这就像派一名记者只盯着街头路人的议论写新闻,不去跑官方发布会。路人嘴里传出的消息,本来就只是官方通报的一小部分,记者文笔再好,信息上限也被路人的消息量卡死。若这名记者不核对官方通报,仅凭道听途说拼出一篇「看起来很完整」的报道,可信度从根子上就有问题。研究者给这个现象起了个名字——

可见性天花板

发布机构这一栏更让人难受。研究者检查了12组「灾难加评委」的组合,AI生成的报告在「报告发布机构、发布日期、报告编号、发布权威」这几项上,无一例外全部低于人类报告。12次检验,12次都输。可见这不是偶然失误,而是结构性的短板:社媒帖子本来就不是官方发布文件,天然不携带这些机构信息,AI再怎么生成,也编不出原本不存在的东西。

**业内常用的自动评分工具,这次集体失灵**

论文还检验了几种业内常用的自动评分方法,看它们能否充当

第一个是

ROUGE-L

测试结果显示,

第二个是

BERTScore

结果更离谱:

第三种做法是直接让AI模型当裁判,给报告打1到10分的「质量分」。听起来合理,结果同样不稳:一场灾难里呈正相关,另外两场却是负相关,统计检验后全都不显著。研究者还注意到一个更微妙的现象——当裁判的AI模型与写报告的AI模型同属一个家族时,打分就会明显偏高,属于「自己人护着自己人」的偏袒。

三种流行的自动评分方法,在这次检验里全军覆没。这给行业提了个醒:方便测量,不等于测量得对。

**人工复核发现:不同AI裁判之间差异巨大**

为验证AI当裁判到底靠不靠谱,研究者亲自盲测了100条样本,用自己的判断去比对四个不同AI裁判的打分。

结果显示,用Gemini当裁判时,研究者本人与它的判断一致率高达91%,用一种叫

Cohen's kappa

换成另一个裁判模型Luna,情况就变了。给人类专业报告打分时,一致性还能达到0.762;一旦换成给AI生成的报告打分,一致性直接跌到0.470。也就是说,这个裁判模型在判断「AI写的报告是否真的完整」时变得很不靠谱,它自己恐怕都没意识到判断不准。

这里有个挺重要的教训:拿AI当裁判,不能默认它在所有场景下都同样可靠,必须针对具体任务做人工校验;而且校验结果可能因评测对象是人写的还是AI写的而大相径庭。

研究者提的建议很直接:别光看报告像不像样,得盯住数字对不对。

围绕这些发现,论文面向正在做灾情报告自动生成这类比赛和项目的组织者,列出了七条具体建议,思路大体落在几个方向上。

头一条,别拿理论满分当标尺,要拿真实人类报告的平均水准做参照,毕竟连专业机构自己写的报告也够不着满分。

第二条,别因为“栏目齐全”就给AI报告打高分,这个指标太容易被“面面俱到但内容空洞”的报告钻空子。

第三条,数字层面的核查必须加上,拿AI报告里的具体数字去对官方记录,看能不能吻合,这比笼统的文本相似度要紧得多。

第四条,每个栏目里AI和人类差多少,要把差距范围公开出来,而不是简单甩一个“及格/不及格”的二元判断,很多差距其实落在模糊地带。

第五条,裁判模型要是解析失败或者拒绝打分,这些失败率本身也得记录、也得披露,因为失败往往集中在最关键的栏目上。

第六条,跨模型家族的裁判验证必须做,不能让AI既当选手又当裁判,否则很容易出现自己人护着自己人的现象。

第七条,原始输入数据里究竟含了多少官方参考信息,必须量化,输入本身就缺了大半信息的话,再好的模型也补不出来。

说到底,这些建议指向同一件事:评价一份AI生成的危机报告,不能只问“它说了该说的话题吗”,还要问“它说的是真的吗”,以及“它说的话从哪儿来的”。

写在后面

读完这篇论文,我印象最深的其实不是那个“AI险胜人类”的结果反转,而是研究者挖出来的那个

有个逻辑常被忽略:生成模型能走多远,有时跟模型本身聪不聪明没多大关系,关键要看喂进去的数据里有多少真东西。社交媒体帖子中根本没出现官方的伤亡统计数字,那再强的大模型去读这些帖子,也造不出这个数字,最多编个看着像那么回事的近似值。这种“输入天花板”不只对灾情报告成立,凡是靠检索或摘要生成的AI应用,按理都该先问一句:我交给它的材料里,有没有我想要的答案?

还有个细节我反复琢磨:论文里说,AI生成的报告有时会把社交媒体帖子中的电话号码、邮箱地址原封不动抄进去。这个隐私风险挺容易被漏掉,一份本该公开发布的操作文件,要是夹带了个人联系方式,传出去就是不大不小的隐患。研究者特意在论文里提了一句要做脱敏筛查,这种实在的提醒,比空喊“AI要负责任”有用得多。

如果有一天你看到一份文笔流畅、结构完整的AI生成报告,不妨多问一句:它里面的数字,查得到出处吗?

Q&A

Q1:AI生成的灾情报告和人类专业报告相比,到底哪个更好?

A:这取决于用哪个AI模型当评委。用Gemini评分时AI报告略微反超人类(0.827比0.821),但这个差距在统计学上不显著;换成另一个评委模型后排名反转,人类报告反而明显领先(0.845比0.819),所以不能简单下结论说AI已经超越人类。

Q2:AI生成的灾情报告里的数字准不准?

A:不太准。研究显示,在三场主要灾难中,AI报告能复现的当天官方数字只有5.4%到11.0%,主要是因为AI所依赖的社交媒体信息源本身只含一小部分官方数据,信息源受限,AI能还原出的内容上限也就被卡住了。

Q3:

A:不太可靠。论文测试发现

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  2. 普林斯顿SWEeper-Bench:AI自主找bug成功率仅59%?

    你有没有遇到过这种情况:请一个很能干的朋友帮你装修房子,他干活又快又好,墙刷得平整,柜子装得结实,可装完之后他就走了,从不回来检查一下窗户关不关得严,插座是不是装反了。直到你半夜被漏风的窗户吵醒,才发现问题。这差不多就是现在AI编程助手的真实处境。普林斯顿大学的研究团队做了一个叫SWEeper-Bench的测试,结果显

    来源 腾讯网
  3. K-Pop舞台镜头推拉下,AI人体重建为何把舞者“拽”向摄像机

    你有没有想过,一段几秒钟的K-Pop舞台视频,镜头猛地往前推,去抓拍领舞的特写,然后又猛地拉远,扫过整个舞台,会让最先进的AI动作捕捉系统彻底"晕头转向"?这不是夸张。来自国立阳明交通大学和波士顿大学的研究团队发现了一件挺让人意外的事:那些在学术榜单上表现完美的"世界空间人体恢复"模型,一旦遇到真实的广播级舞台视频..

    来源 腾讯网
  4. AI 冲击大学数学课堂,加州理工学院教授不再依据答案对错批改作业

    IT之家 11 月 17 日消息,据《商业内幕》16 日报道,在加州理工学院任教 17 年的数学教授倪忆表示,自己不再根据学生答案的对错给作业打分,而是只检查是否完成。“教育过程出了问题。大学里的数学作业,几乎都能用 AI 来做。”究其原因,在于学生普遍使用 AI 完成作业。倪忆坦言,作为教授,自己根本无法判断学生交上

    来源 腾讯网
  5. 谷歌 SRE 圣经被迫重写:AI 时代,硬技能在塌陷,第一性原理在升值

    编译|林绮蓓 策划|Tina 2016 年,一本蓝色封面的书砸进了整个技术行业,把“运维”这两个字从地下室拽进了工程学科的殿堂。 在它之前,运维在大多数组织里是一个成本中心,是一群被凌晨告警叫醒的人,是开发团队眼中“拖慢发布速度的那帮人”,是一门靠师傅带徒弟、靠口口相传、靠个人英雄主义在机房里临场发挥的手艺。系统出了故

    来源 AI 行业观察
  6. 可灵AI上线Kling Image 4.0:原生8K生成,单图可写2000字

    【TechWeb】11月17日晚,可灵AI全新一代图像创作模型Kling Image 4.0正式上线。 真实、文字表现、指令理解和一致性,是这一代模型升级的核心方向。Kling Image 4.0聚焦影视创作、广告营销等专业图像创作场景,在三个方向实现集中突破:画面真实感全面升级,光影、肤质与材质纹理呈现接近相机直出的

    来源 AI 行业观察
  7. Gartner 2027十大技术趋势:四项聚焦AI治理,成熟窗口仅1到6年

    Gartner近日发布了2027年十大战略技术趋势,这份清单定位为面向全球CIO的五年技术规划。十项技术按三个主题分组:驾驭非文本AI前沿,治理自主智能体平台,构建持久敏捷性。今年的主线是自主化(Autonomous Business),AI在企业中的角色从生成内容、辅助判断,扩展到代替人做出决策并执行。这十项分成三组

    来源 腾讯网
  8. AI高薪叙事之外:985硕士12小时连轴转,校招门槛抬到社招

    晚上11点,杨涵合上电脑,12小时连轴转暂告一段落。但人下班了,神经没下,一旦数据有问题,她要24小时待命。 杨涵毕业已经3年,是985计算机本科、QS前20院校硕士,始终在AI这条线上,在几家大厂攒过实习和履历,还当过初创公司AI方向负责人。 这扎实的简历,配上超高的工作强度,按理说收入该傲视群雄。但眼下杨涵的月薪,

    来源 AI 行业观察
  9. 13款AI应用停运调整:OpenAI、苹果、微软均在其中

    智东西11月17日消息,据TechCrunch昨日报道,截至目前,美国至少有13款行业知名、曾被寄予厚望的AI应用或项目相继停止运营、进行重大调整,或陷入发展困境。其中既有OpenAI、苹果、微软等科技巨头的产品,也有曾经风光无限的AI明星创业项目。 ▲13款或项目调整、转型或停止运营的AI应用(智东西制表) 在科技巨

    来源 AI 行业观察
  10. 诺奖得主哈萨比斯的AI制药公司Isomorphic Labs完成50亿美元C轮融资

    智东西11月17日消息,刚刚,由诺奖得主、谷歌DeepMind联合创始人德米斯·哈萨比斯(Demis Hassabis)创办的英国AI药物研发公司Isomorphic Labs宣布完成50亿美元(约合人民币333亿元)C轮融资,融资获得超额认购。 结合公开数据不完全统计,本轮融资刷新该公司此前的单轮融资纪录,可能创下全

    来源 AI 行业观察
  11. 蚂蚁RWM:双向世界模型实现屏幕内外实时互动

    编辑|陈陈想象一下,你在现实中拿起一瓶水,递向屏幕。下一秒,屏幕里的虚拟人物竟然伸出手,接过了这瓶水。视频链接:https://mp.weixin.qq.com/s/Vuq-PZ-ky7-onIhIkQleUw更有意思的是,虚拟世界里的景色也能随着对话发生变化。当你和虚拟人物聊起杭州西湖,原本明亮的白天场景,竟然会随着

    来源 腾讯网
  12. AI 崛起,专业价值被消解,还是被重塑?

    设置星标★关注,从此你的世界多点科学~现代工程项目越来越多地要求人类判断力与机器能力相结合。工程师可以先定义问题,接着借助AI工具检索相关研究成果和技术标准,生成多种设计方案,开展仿真测试,并对比各项结果,然后将结果交给那些“能判断AI所不能判断”的其他领域专家,后者负责评估某款设计可否安全落地、在特定...

    来源 腾讯网
  13. 一份看空中际旭创的报告,戳中了AI硬件的最大软肋

    一份看空中际旭创的估值测算,几乎把整个AI硬件资产的估值困境摆到了台面上。 11月17日,一份关于中际旭创的看空测算在投资圈迅速传播。按照这份材料的预测,到2029年,中际旭创的年净利润大约只有300亿元,对应合理市值3000亿至4500亿元。 考虑到折现因素,即使在最乐观的情况下,公司目前的股价仍然存在约25%的回撤

    来源 AI 行业观察
  14. 腾讯三季度营收2073.4亿元:AI业务多点突破,云服务收入增35%

    腾讯控股发布2026年第三季度财报,AI业务取得多项突破:最新一代混元大模型Hy4发布时位列Agent Arena中国模型第一;WorkBuddy日活超1000万,日均Token消耗量超100万亿,成为国内日均大语言模型Token消耗量最高的AI产品;微信AI助手“小微”灰测范围持续扩大;AI需求带动云服务收入同比增长

    来源 TechWeb
向下滚动自动加载更多