AI视频骗过人脸识别：杭州案例曝光2D核验漏洞

从做PPT、写文案、画图到输出代码，AI都能代劳，可它同样会威胁到普通人的安全。近期AI在网络安全事件中频频扮演关键角色，人们对它是一柄双刃剑的认同也越来越普遍。央视网近日报道了杭州市中级人民法院公布的一起案例，其中显示，AI生成的视频已经能够逃过人脸识别系统。

据披露，不法分子先从网络收集他人照片，再用AI生成点头、摇头、眨眼的动态视频，接着篡改相机数据，最终突破了购物平台的人脸核验，盗走账户内的个人信息。这一案例说明，AI视频技术一旦被滥用，原有的信任秩序已开始被破坏。点头、摇头、眨眼，正是用户对着手机前置摄像头向App证明“我是我”时要做的动作。2015年前后，深度学习让把人脸识别准确率大幅提升，算法精度开始超过人眼水平，大规模商用的技术障碍由此被扫清。到今天，人脸识别已成大量互联网产品确认用户身份的主要途径。

支付宝等金融类App之外，京东、淘宝等电商平台，以及抖音、微信，都在大范围使用人脸识别。不过这次被AI攻破的不是iPhone所用的Face ID这类3D结构光人脸识别，而是2D人脸识别。3D结构光靠投射潜望结构光线扫描采集人脸信息，用“点”对“面”的特殊算法构成三维图像，看到的是立体人脸；2D人脸识别看到的则是平面。

在手机上完成从面部识别到解锁，至少涉及人脸检测、特征提取和人脸识别几个环节。人脸检测，顾名思义，是让系统从全景画面中精准抠出用户脸部区域去做验证；特征提取靠计算机视觉，取两眼间距、鼻宽、脸型轮廓、皮肤纹理、皱纹走向等信息；人脸识别则把待识别的人脸与数据库中的相关数据比对，用算法衡量相似度。

2D人脸识别的致命短板在于只认脸、不认人。照片、视频，甚至硅胶面具，都可能把它骗过去，开发者于是引入“活体检测”，点头、摇头、眨眼这些动作，本质上是开发者想证明镜头前那张“脸”属于真人。2017年，一项叫deepfake（深度伪造）的技术出现在Reddit上，借助生成式对抗网络（GAN）和深度学习算法，换脸视频变得十分逼真可信。

为对抗深度伪造，开发者转而用光线区分视频和真人。真实人脸是立体的，光线打上去，鼻子、脸颊、眼睛等部位的反射强度和角度各不相同，真实皮肤含水分，还会吸收部分光线。照片、面具是平面的，反射的光线模式单一，算法对比光反射的细微差别，就能识破伪造。

传统深度伪造内容还原不了光线照在人脸上的真实反馈，AI视频模型却可以。2024年OpenAI发布Sora时就称其为“世界模拟器”，说AI能理解、预测和推理现实世界的运作方式，物理规律、因果关系、物体运动都包含在内。

世界模型如今已不新鲜，最先进的AI已经能理解“水为何会往低处流”“球撞到墙上为什么会弹回来”。Seedance、可灵等SOTA级别的AI视频模型足以以假乱真，有AI视频创作者感叹：“当年威尔·史密斯吃面的AI视频不也是个笑话吗，现在呢？”

2023年那段威尔·史密斯吃意大利面的AI视频，曾被网友嘲讽“像没牙老太太嚼空气”，叉子穿脸、面条像蛇一样扭动、咀嚼像木偶等穿帮镜头不断，整体既像恐怖片又像鬼畜素材。如今，“电影质感”已经是抖音、快手上精品AI内容的标配。

换句话说，当前顶级AI视频模型懂得不同光线照在人脸上该呈现什么状态。只要黑客肯下功夫，收集用户公开发布的照片喂给AI，输出一段惟妙惟肖的视频，去骗过非3D结构光的人脸识别，理论上就行得通。AI模型解析图片内容，识别主体、背景、光影等元素，再按提示词指令生成连续动态帧，拼接成流畅视频，这套流程已是AI视频模型的基础用法。作为关键帧的图片越多、越详细，生成的视频就越可控、越连贯、越逼真。

某种意义上，央视网报道的“AI视频已能骗过人脸识别”，是新技术搭配社会工程学的结果。反过来说，如果你基本不在公开网络发布个人日常生活照，黑客想制作AI视频也无米下锅。

问题是，QQ、Facebook、Instagram、微信等社交软件浸润二十余年，加上“自拍文化”的洗礼，几乎不在网上发照片的人少之又少。AI视频模型伪装真人，因此不是少数人才要面对的威胁，而是全社会需要共同应对的挑战。

几乎可以预见，随着AI视频模型能力逐步迭代、向世界模型靠拢，它理解世界运行规律的本领会持续进化，会被AI欺骗的互联网平台将越来越多。