刷到一条消息说某地出了大事,配图配视频都有,转天又说是AI做的。这种时候人容易卡在两个反应之间:先信了,或者干脆什么都不信。这篇不列案例清单,而是把「社会轰动级AI造假」拆成能自己动手核对的几类,给出查证顺序和判断标准,也说明哪些情况下这套办法不适用。
轰动的「AI造假」其实分三类
刷到一条「AI造假闹大了」的消息,先别急着转发,也别急着骂。同样被喊成 AI 造假,内里差别很大:有的东西整套都是模型造出来的,有的是拿真素材改的,还有的是真事被改了说法。这三类的查法完全不一样,先归类再动手,比笼统问一句「这是不是 AI 做的」省事得多。
第一类,凭空生成的假事件。图、视频、录音从头到尾都是模型产出的,现实里压根没发生过。这类东西的破绽往往在细节上:字迹糊、手指结构别扭、光影方向对不上、背景声音过于干净。但别把这些当成铁证,模型迭代很快,肉眼看不出来很正常,所以判断重点不在「像不像」,而在这件事有没有第二个独立来源。
第二类,移花接木。素材是真的,人物、地点、场景被换掉了。常见的是换脸、换声、把一段别处的画面接到另一件事上。这类最坑人,因为画质、环境音都真,单看画面挑不出毛病。查的时候别盯人脸,去对背景:招牌文字、路牌、天气、季节、周围人的穿着,这些凑一起对不上号,基本就能确定是拼的。
第三类,真事假包装。事情确实发生过,但时间、地点、伤亡数字、责任方被改写或者放大了。这类跟 AI 关系不大,更像是旧图新用、张冠李戴。它的迷惑性在于「有图有真相」,可图是真的,配的文字不是。查这类要反过来:先查事情本身,再看图文是否属于同一件事。
| 类型 | 典型特征 | 先查什么 |
|---|---|---|
| 凭空生成 | 整段内容现实中没有对应事件 | 有没有第二家独立来源报道 |
| 移花接木 | 人物或场景与真实素材对不上 | 背景细节、天气季节是否自洽 |
| 真事假包装 | 事件真实但时间地点数字被改 | 原始出处、最早发布时间 |
这张表不是让你对号入座就完事。实际遇到的内容经常是两类混着来,比如真事件的视频配上模型生成的解说词。所以顺序应该是先判断「事情本身存不存在」,再判断「这段素材是不是属于这件事」,最后才轮到「素材有没有被改过」。顺序反了,容易在画质上纠结半天,结论还是错的。
为什么这类东西总能传开
先别急着骂转发的人蠢。一段假东西能刷屏,多数时候不是因为大家判断力差,而是它刚好踩中了几个传播上的省力点。你把这几条拆开看,再回头判断眼前这条,心里就有谱了。
第一层是情绪。越吓人、越解气、越像「内部人才知道」的东西,转发的动力越足,核实的动力越弱。人看到一条让自己血压上来或者特别痛快的内容,第一反应是「得让更多人看到」,而不是「这真的假的」。这个顺序一旦反过来,后面所有判断都建立在不稳的地基上。
- 情绪先行
- 内容先点燃情绪,理性核对被挤到后面,转发发生在核实之前。
- 画面完整度高
- 几秒视频有场景有人物有动作,大脑默认「有画面就是真的」,而生成门槛已经降到普通人能上手。
- 账号搬运链条
- 同一段素材被反复剪辑、换标题、配不同字幕,越往后越难找回原始出处。
第二层是画面。一段几秒的视频,有场景、有人物、有动作,看起来就「齐了」。多数人不会逐帧去挑手指、光影、口型,看到像那么回事就默认是真的。麻烦在于,做出这种「像那么回事」的东西,门槛已经低到普通人摸索一阵就能上手,不需要什么专业团队。
第三层是搬运。同一段素材会被一遍遍剪辑、换标题、配不同字幕,每过一手就少一点原始信息。传到你眼前时,往往已经是第好几手版本。你去找出处,找到的常常是另一个搬运号,而不是最初发布的人。所以判断的时候,先默认自己看到的是第 N 手版本,这个心态很重要。
| 传播环节 | 它在帮你还是在骗你 | 你该做的动作 |
|---|---|---|
| 情绪反应 | 情绪越强越容易跳过核实 | 先停十秒,问自己气什么、爽什么 |
| 画面呈现 | 画面完整不等于内容真实 | 找原始发布者和完整版,别只看截取片段 |
| 转发链条 | 每转一手信息就掉一层 | 往上追来源,追不到就标成待核实 |
| 标题字幕 | 换标题换字幕会改写原意 | 对比不同版本,看说法哪里变了 |
- 先记录自己的情绪看到内容的第一反应是害怕、愤怒还是解气,写下来。情绪越强,越要提醒自己这条需要多查一步。
- 往上追一手来源顺着转发链找最初发布者,找不到就搜同一段素材有没有更早的版本。追不到源头,就当它是第 N 手。
- 比对不同版本把几个版本放在一起看标题、字幕、剪辑有没有变。说法一变,原意可能已经被改。
- 给出暂定结论核实不了就先标「待核实」,别急着下判断,也别急着转发。想系统看这类案例怎么归类,到 翻对照说明。
自己动手核一遍的顺序
看到一条刷屏的「AI 造假」消息,别急着转发,也别急着骂。先按下面的顺序自己核一遍,四步走完,你大概率能给这事定个性:是真的、是假的,还是先挂着。顺序不能乱,跳步最容易误判。
- 第一步:找出处谁最早发的?原始链接在哪?发布者过往都发些什么?把发布时间、账号名、原始页面截图存下来。如果翻遍转发链也找不到第一发布者,或者最早的链接已经打不开、只有二手截图,那就先别定性,标成「来源不明」放一放。
- 第二步:对交叉源看有没有互相独立的信源报道同一件事。注意,几家号转载同一段素材、配同一张图、用同一句描述,这不算独立,只算一次传播。真正独立是指不同的人从不同渠道拿到信息,细节能对上但表述不一样。
- 第三步:看细节破绽手部结构、画面里的文字、背景人群、口型和声音能不能对上,光影和反射是否合理。这些是线索不是结论:破绽明显不等于一定造假,可能是压缩、剪辑或拍摄角度问题;看不出破绽也不等于就是真的。
- 第四步:查回应搜一下官方机构、当事方、平台有没有回应。有明确回应就按回应走;没有回应,就保持「待定」,不要替任何一方下结论。待定不是和稀泥,是还没到能判的时候。
| 核查动作 | 看到什么算过关 | 什么情况先别下结论 |
|---|---|---|
| 找出处 | 能定位到第一发布者和原始链接 | 只有二手截图、原链接失效 |
| 对交叉源 | 至少两个互不转载的独立信源 | 几家号发的是同一段素材 |
| 看破绽 | 细节基本自洽,无明显硬伤 | 有破绽但说不清是造假还是压缩 |
| 查回应 | 官方或当事方有明确说法 | 各方都没出声 |
这套顺序里最容易翻车的是第二步。很多人看到「好几家都在报」就信了,其实点进去一看,图是同一张,话是同一句,连标点都没改。这不叫交叉验证,叫同一篇文章被复制了几遍。判断独立性,就看信源之间有没有互相引用,有没有各自的采访和素材。
还有一种常见误判:盯着手指数错了几根就宣布「AI 生成」。手部异常确实常见,但老照片、低分辨率截图、快速运动画面也会糊成一团。破绽只帮你提高警惕,定性还得回到出处和回应上。核完这四步还是拿不准,就去站内的案例资料页对照着看别人是怎么拆的,比在评论区吵有用。
这套办法什么时候不好使
前面讲的那套流程,核的是素材真不真、来源顺不顺、传播链有没有断点。它有个天花板:只处理「这段画面是不是被做过手脚」,处理不了「画面里的人说得对不对」。一旦事件落到专业结论上,核验工具就换不了答案。
| 场景 | 这套办法能确认的 | 确认不了的 |
|---|---|---|
| 医疗类内容 | 片子、报告单、诊室画面是否为真或拼接 | 这个诊断意见在临床上站不站得住 |
| 金融类内容 | 截图里的账户、曲线、公告页面有没有P过 | 这个操作建议是否合规、是否有资质 |
| 法律类内容 | 文书、庭审画面、签字页是否被篡改 | 这条法律判断在具体案情下是否成立 |
| 科研类内容 | 图表、实验照片有没有重复或拉伸 | 这个结论在同行评议里过不过关 |
所以碰到这类事件,别把「素材核验通过」当成「事情成立」。正确做法是拆成两条线:一条查素材,一条查结论,后者只能找对应领域的公开信息源——监管公示、机构声明、专业协会的说明——去看有没有人正面回应过。没有回应,就写「素材为真,结论未获专业确认」,别替人下判断。
还有一种情况更憋屈:造假方故意留一手。图压得很小、视频糊成一片、关键区域就几个像素,你放大到极限也只能看到一团色块。这时候像素级检查、频率分析、元数据比对基本都派不上用场。不是工具不行,是信息量本来就不够。硬要出结论,很容易把「看不出问题」说成「没问题」,这是两码事。
- 先看清晰度够不够把关键区域截出来放大,如果连边缘轮廓都分不清,直接放弃像素级判断,别在图上耗时间。
- 转去查信源找最早发布这条内容的账号,看它过往发什么、有没有机构背书,再找有没有第二家独立来源拍到同一件事。
- 做交叉验证拿画面里的可核对细节(地点、标识、时间线里的天气或背景)去对别的公开记录,对不上就记为存疑。
- 写明结论边界输出时区分「素材无法判定」和「素材为假」,别用模糊措辞把前者写成后者。
最后一种最容易误判:事件本身敏感,相关内容在公开渠道被清得很快。你去搜,搜不到;去翻存档,页面没了;问当事人,没人说话。这时候只能记「无法核实」,不能记「是假的」。两者差别很大——前者是信息状态,后者是事实判断。写东西的人如果图省事把「查不到」写成「假的」,等于自己制造了一条新的不实信息。这条界限守不住,前面所有核验都白做。
判断完之后你该做什么
判断完真假,很多人卡在下一步:转还是不转。默默转发,等于替造假内容背书;默默不转,身边人下次照样踩坑。中间其实有条更省事的路——转,但加一句限定语。
限定语不用写得多正式,一句「暂未见权威来源,先别当定论」就够。它干的事是把确定性从你身上挪开,同时给看到的人留个提醒。反过来,直接判定「这是假的」也别扭,你自己未必有把握,措辞太狠反而容易被截图拿去当靶子。
- 转发时附一句来源状态:暂未见权威来源 / 只看到单一截图 / 原始出处待核
- 不确定合成痕迹时,写「看着有合成可能,没验过」,别写「百分百 AI 生成」
- 别把截图从原语境里裁出来单独转,裁掉上下文的图最容易误导人
- 对方是工作群或客户群,先小窗问一句再发,别直接甩进去
- 自己拿不准就只发链接不发结论,让接收方自己判断
- 先看来源问一句这张图、这段视频最早从哪出来。找不到原始发布方,就按「来源不明」处理,转发时写明。
- 再看用途同样一条内容,发朋友群和发工作群不是一回事。工作群默认按对外物料的标准过一遍。
- 最后定措辞把「这是假的」换成「暂未见权威来源」,把「百分百合成」换成「有合成痕迹,未核实」。改完再发。
企业这边的坑更具体。员工不是故意传谣,多半是觉得「看着像真的,先发群里问问」。结果一张没核实的截图进了工作群,再被顺手贴进对外物料,源头就说不清了。把这类内容写进内部转发自查清单,比事后追责有用得多。
| 场景 | 发之前先做什么 |
|---|---|
| 内部工作群 | 确认来源可追溯,来源不明就标注「待核」再发 |
| 对外物料 | 截图类素材一律回原始出处核对,核不到就不用 |
| 客户沟通 | 不转未经核实的事件截图,改用文字描述并说明不确定 |
| 跨部门转发 | 注明原始出处和核实状态,避免二次转手丢上下文 |
至于合成痕迹本身,肉眼判断很容易翻车。光影不对、手指多一根、字幕边缘发糊,这些线索单独看都不算数。拿不准的时候可以用站内检测工具跑一下,但把它当线索,别当判决书——工具给的是概率和可疑点,不是结论。
下一步想看看检测工具怎么读结果、哪些指标只能当参考,去站内工具目录翻一遍说明再上手。→常见问题
看到一段视频,画面很真,是不是就基本能信?
不能。画面真实感现在只说明制作水平,不说明事件发生过。先找出处和独立信源,两个都对上再谈可信度,对不上就停在「待核实」。
普通人有没有必要每次都去查?
不必每条都查,但涉及转发、引用、对外发布的必须查。只在私下看一眼的,至少别顺手加评论扩散,成本最低。
用AI检测工具能不能直接给结论?
只能当辅助线索。检测结果受压缩、二次剪辑影响很大,误判常见,结论要结合信源交叉验证一起看,别单凭一个分数定性。