肖像驱动动画
输入一张静态人像和一段驱动信号,输出人物说话、做表情的视频,画面中的人物身份尽量保持不变。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
用扩散变换器把静态肖像变成高动态、表情逼真的说话视频。
Hallo3 是一套面向肖像图像动画的视频生成方案,核心思路是用扩散变换器网络驱动一张静态人像,让它动起来并做出自然的表情与口型。与只能做轻微头部晃动的传统方案相比,它更强调「高动态」和「逼真」,也就是说话时的面部肌肉变化、眼神与头部姿态都尽量贴近真人。它主要面向做数字人、虚拟主播和影视预演的人,输入是一张肖像加一段驱动信号,输出是带表演的短视频。这类技术在侧脸、遮挡、大幅表情时容易露馅,长镜头也容易累积抖动,通常更适合几秒到十几秒的片段。
Hallo3 属于肖像动画(portrait animation)方向的视频生成技术,目标是把一张静止的人像照片转换成会说话、有表情的动态视频。它的技术底座是扩散变换器网络(Diffusion Transformer),用扩散模型负责画面质量,用变换器结构负责在时间维度上维持动作的连贯性,从而在保持人物身份不变的前提下加入较大的动态幅度。
从形态上看,它是研究项目式的开源实现,通常以代码仓库加权重的方式发布,使用者需要自己准备环境、模型文件和驱动音频,而不是打开网页就能用。它对输入的要求比较讲究:人像最好是正面、光线均匀、脸部无遮挡,驱动信号的质量直接决定成片效果。
普通创作者可以把它当作数字人视频的生成后端,配合配音做口播内容;开发者更常见的用法是把它接进自己的管线,作为「照片转说话视频」这一环;团队则往往把它当成验证方案,先小规模试跑,再决定是否投入算力和工程改造。
输入一张静态人像和一段驱动信号,输出人物说话、做表情的视频,画面中的人物身份尽量保持不变。
相比只做轻微点头和眨眼的老方案,它能支撑更大的头部转动与表情变化,动作不容易显得僵硬。
用扩散模型保证单帧画质,用变换器结构在时间轴上对齐相邻帧,减少逐帧生成时常见的闪烁与跳变。
根据音频驱动嘴部开合与面部肌肉,让说话时的口型和语气节奏对得上,适合口播类内容。
以代码和模型权重形式提供,可以部署在自己的机器或服务器上,数据不出本地,方便做二次开发。
用一张照片加配音批量产出口播视频,适合做知识科普、课程讲解这类不需要真人出镜的内容。
能自己配环境、跑推理、改代码,把它接进已有的内容生产管线,这是它最顺的使用方式。
在正式拍摄前用肖像动画快速试表情和台词节奏,比找演员排练便宜,但精度不足以直接当成片。
不愿碰命令行和显卡配置的话,它的部署门槛会直接劝退,这类需求更适合找在线数字人产品。
需要几个角色长时间对话的镜头时,身份漂移和面部崩坏会明显增加,后期修补的工作量很大。
它吃两样输入:一张静态人像,加上一段驱动信号(通常是人声)。扩散变换器在时间轴上逐帧生成画面,一边保持人物长得像原图,一边按音频驱动嘴型和面部表情,最后合成一段带表演的视频。你拿到的是一个会做表情、会说话的数字人,而不是简单让照片晃两下。
换脸类工具是把已有视频里的人物替换掉,口型靠后期的嘴部替换,动作幅度受原视频限制;Hallo3 是从一张静止照片生成整段动态,头部转动、眼神和表情都是新生成的,所以幅度能更大,但代价是稳定性不如直接拍。要原视频的真实感就用换脸,要凭空造一段表演才选它。
正面、光线均匀、五官清晰无遮挡的照片最稳。侧脸角度大、戴墨镜口罩、头发遮住额头、强逆光或者分辨率过低的图,生成时常出现五官错位和嘴部扭曲。做系列内容时建议固定用同一张参考图,人物一致性会好很多。
它更适合几秒到十几秒的短片段。片段越长,表情漂移和画面抖动越容易累积,中途可能出现脸部结构变形。实用的做法是按句子切段分别生成,再在剪辑软件里接起来,成片的连贯性反而比一次跑长镜头更好。
它属于需要自己部署的方案,要配置 Python 环境、下载模型文件、有独立显卡才能跑推理,命令行不熟悉的人上手会比较吃力。如果你只是想要一个网页里传照片就出视频的工具,这类开源项目不是最省事的选择,用云端数字人产品会更直接。
先排查输入:换一张更正面的照片、把音频里的噪声清掉,往往就能改善一大截。还有两个常用手段,一是同一段输入多跑几版挑最好的一版,二是把输出送进人脸修复或超分环节,压掉嘴部和牙齿附近的糊化伪影。最后还是不满意,就把长镜头拆成短段重做。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Hallo3本工具 | 4.2 | 未标价 | 肖像驱动动画;高动态幅度;扩散变换器架构;口型与表情同步 | — |
| JoyVASA | — | 未标价 | 基于扩散模型的音频驱动人像和动物图像动画技术 | — |
| X-Portrait 2 | — | 未标价 | 高度表现力的肖像动画技术 | — |
| Make Pixels Dance | — | 未标价 | 高动态视频生成 | — |
| X-Dyna | — | 未标价 | X-Dyna 是一种基于扩散模型的零样本人类图像动画生成技术 | — |
| I2VEdit | — | 未标价 | 一种基于图像到视频扩散模型的视频编辑技术 | — |