AI换脸怎么识破？田天团队用贝叶斯神经网络让模型学会说“不确定”

田天近照，AI修饰生成素描画AI换脸在人工智能技术加持下，已经到了足以以假乱真的地步。这项技术一旦被恶意使用，虚假信息、诈骗等违法活动就可能随之滋生。怎么识破AI换脸的把戏？这正是我和团队攻关的方向之一。

要做到这一点，精准有效的检测是关键。AI大模型迅猛发展，伪造技术也跟着不断“进化”。传统检测方法好比拿一本固定的“犯罪图谱”去抓犯人——对已知的伪造技术表现尚可，碰上从未见过的新型生成方式，性能就急剧下降。另一边，算力和数据门槛降低，快速批量生成伪造文本、图片甚至视频已经做得到，检测的难度和成本又被推高了一层。

破解难题，还得靠AI。我们想用AI打造“火眼金睛”，去甄别AI换脸等风险，让AI应用更安全更可控。不过技术落地应用并不容易。新型伪造手段层出不穷，有一段时间我们总是跟在后面疲于应对，最初设计的方法准确率也不高。

与其被动“见招拆招”，能不能让AI拥有应对“未知”的能力？求学阶段在贝叶斯深度学习领域的积累，帮我打开了新视角。我想到，检测模型不必对每个样本都给出非黑即白的答案，证据不足时，为什么不能诚实承认“无法确定”？

反复论证、试验之后，我们在检测模型中引入贝叶斯神经网络，模型参数不再被视为一组固定数值，而是用概率分布描述参数可能的取值。经过多次概率采样，模型能综合不同参数假设下的判断结果：预测一致，说明证据充分；预测分歧较大，则意味着样本可能来自未知生成器、经过复杂改写，或本身处于人机混合的模糊边界。面对这类高不确定性样本，我们训练模型不再草率地给出真伪判定，而是教它承认“不确定”；在此基础上再针对此类样本进行优化，提升模型性能，使其在面对新型AI合成方法时，依然能够识别80%以上的合成数据，误判率得到有效控制。

换句话说，那些一眼就能看穿的简单样本，模型不会再耗费大量精力，注意力转而落到“不确定”的数据上。把资源投向真正棘手的地方，模型摸索识别AI内容策略的速度更快、精度更高，面对新出现的AI合成内容时也更从容。技术路线被验证的那一刻，团队成员都很振奋。过去我们只能被动追赶伪造技术，如今手里有了一套主动应对未知风险的办法——“教”AI从更深层面理解规律，识别应用风险、拒绝有害请求。

眼下，团队基于这项技术开发的AIGC(生成式人工智能)内容检测平台等产品，覆盖AI衍生安全风险治理和AI内生安全两类，已在金融、政务、公安、互联网等场景投入使用。安全焦虑让一些企业起初对大模型心存顾虑，不敢放手使用；经过我们的技术安全评测与安全加固，这些顾虑打消了，AI的便利才真正用了起来。

AI在进化，风险同样在变。智能体、具身智能机器人兴起之后，AI从“回答问题”的对话框变成了“执行任务”的行动者，风险也随之从虚拟世界蔓延到物理世界。具身智能机器人的风险来得更直接：它们在物理世界作业，碰上特殊情形一旦应对不了，就可能伤到人。用人类智慧驾驭AI，是智能时代绕不开的课题。我和团队会继续深耕AI安全研究，助力AI健康有序发展。

(作者为新一代人工智能产业技术创新战略联盟专家委员，姜子钰、喻思南采访整理)

田 天