Hallo3

Hallo3

AI TOOL PROFILE工具资料

用扩散变换器把静态肖像变成高动态、表情逼真的说话视频。

官网地址 https://fudan-generative-vision.github.io/hallo3/#/

访问官网
价格官网未标价
平台—
归类AI 视频生成
收录2026-10-11
复核2026-10-11
编辑评分 4.2 / 5

Hallo3编辑总结

EDITOR REVIEW编辑评测

Hallo3 是一套面向肖像图像动画的视频生成方案,核心思路是用扩散变换器网络驱动一张静态人像,让它动起来并做出自然的表情与口型。与只能做轻微头部晃动的传统方案相比,它更强调「高动态」和「逼真」,也就是说话时的面部肌肉变化、眼神与头部姿态都尽量贴近真人。它主要面向做数字人、虚拟主播和影视预演的人,输入是一张肖像加一段驱动信号,输出是带表演的短视频。这类技术在侧脸、遮挡、大幅表情时容易露馅,长镜头也容易累积抖动,通常更适合几秒到十几秒的片段。

Hallo3是什么?

Hallo3 属于肖像动画(portrait animation)方向的视频生成技术,目标是把一张静止的人像照片转换成会说话、有表情的动态视频。它的技术底座是扩散变换器网络(Diffusion Transformer),用扩散模型负责画面质量,用变换器结构负责在时间维度上维持动作的连贯性,从而在保持人物身份不变的前提下加入较大的动态幅度。

从形态上看,它是研究项目式的开源实现,通常以代码仓库加权重的方式发布,使用者需要自己准备环境、模型文件和驱动音频,而不是打开网页就能用。它对输入的要求比较讲究:人像最好是正面、光线均匀、脸部无遮挡,驱动信号的质量直接决定成片效果。

普通创作者可以把它当作数字人视频的生成后端,配合配音做口播内容;开发者更常见的用法是把它接进自己的管线,作为「照片转说话视频」这一环;团队则往往把它当成验证方案,先小规模试跑,再决定是否投入算力和工程改造。

Hallo3核心功能

CAPABILITIES工具标签

肖像驱动动画

输入一张静态人像和一段驱动信号,输出人物说话、做表情的视频,画面中的人物身份尽量保持不变。

高动态幅度

相比只做轻微点头和眨眼的老方案,它能支撑更大的头部转动与表情变化,动作不容易显得僵硬。

扩散变换器架构

用扩散模型保证单帧画质,用变换器结构在时间轴上对齐相邻帧,减少逐帧生成时常见的闪烁与跳变。

口型与表情同步

根据音频驱动嘴部开合与面部肌肉,让说话时的口型和语气节奏对得上,适合口播类内容。

开源可自部署

以代码和模型权重形式提供,可以部署在自己的机器或服务器上,数据不出本地,方便做二次开发。

Hallo3使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 先挑一张干净正脸照选光线均匀、无刘海遮挡、张嘴自然的人像作为输入,侧脸、墨镜、强逆光的照片会让结果直接崩掉。
  2. 从短片段开始跑先用几秒的音频试跑一遍,确认口型对得上、画面不抖,再去处理完整段落,省下大量等待时间。
  3. 音频先降噪再喂进去把驱动音频里的背景噪声和口水音处理掉,口型同步会明显更稳,尤其是录制环境一般的时候。
进阶省时间也省钱
  1. 按镜头切分再逐段生成长镜头容易出现表情漂移和累积抖动,把内容按句子切成短段分别生成,再在剪辑软件里拼接。
  2. 多跑几版再挑同一段输入换随机种子多生成几版,挑口型和表情最自然的那一版,比事后修画面省事得多。
  3. 生成后再做一次画质修补把输出送进人脸修复或超分环节,能压掉扩散模型在嘴部和牙齿附近常见的糊化和伪影。
  4. 固定参考图做系列内容做系列口播时让同一个人物、同一张参考图贯穿始终,观众才不会觉得每期的人长得不一样。

Hallo3适合谁用?

WHO IS IT FOR工具标签

数字人口播创作者

推荐

用一张照片加配音批量产出口播视频,适合做知识科普、课程讲解这类不需要真人出镜的内容。

有显卡的开发者

推荐

能自己配环境、跑推理、改代码,把它接进已有的内容生产管线,这是它最顺的使用方式。

影视与动画预演

有条件

在正式拍摄前用肖像动画快速试表情和台词节奏,比找演员排练便宜,但精度不足以直接当成片。

只想网页点几下的人

不推荐

不愿碰命令行和显卡配置的话,它的部署门槛会直接劝退,这类需求更适合找在线数字人产品。

长视频与多人同框需求

不推荐

需要几个角色长时间对话的镜头时,身份漂移和面部崩坏会明显增加,后期修补的工作量很大。

Hallo3优点和缺点

PROS & CONS工具标签

优点

  • 支持较大的头部与表情幅度,动作不像早期方案那样僵硬
  • 开源可自部署,数据留在本地,方便按自己需求改
  • 在身份保持和口型同步上比简单换脸拼接更自然
  • 适合照片转说话视频这一环,能省掉真人出镜成本
  • 短片段生成效果稳定,做口播和短视频够用

缺点

  • 侧脸、遮挡和夸张表情下容易崩,对输入照片很挑
  • 长镜头会累积抖动和表情漂移,得靠切段拼接
  • 需要自备显卡和环境,部署对非技术用户不友好
  • 生成有随机性,同一段输入要跑多版才能挑出好的
  • 嘴部和牙齿附近常出现糊化,往往还要再做修复

Hallo3常见问题

FAQ工具标签
Hallo3 是怎么把一张照片变成说话视频的?

它吃两样输入:一张静态人像,加上一段驱动信号(通常是人声)。扩散变换器在时间轴上逐帧生成画面,一边保持人物长得像原图,一边按音频驱动嘴型和面部表情,最后合成一段带表演的视频。你拿到的是一个会做表情、会说话的数字人,而不是简单让照片晃两下。

它和常见的换脸或对口型工具有什么区别?

换脸类工具是把已有视频里的人物替换掉,口型靠后期的嘴部替换,动作幅度受原视频限制;Hallo3 是从一张静止照片生成整段动态,头部转动、眼神和表情都是新生成的,所以幅度能更大,但代价是稳定性不如直接拍。要原视频的真实感就用换脸,要凭空造一段表演才选它。

什么样的人像照片效果最好?

正面、光线均匀、五官清晰无遮挡的照片最稳。侧脸角度大、戴墨镜口罩、头发遮住额头、强逆光或者分辨率过低的图,生成时常出现五官错位和嘴部扭曲。做系列内容时建议固定用同一张参考图,人物一致性会好很多。

能生成多长的视频?

它更适合几秒到十几秒的短片段。片段越长,表情漂移和画面抖动越容易累积,中途可能出现脸部结构变形。实用的做法是按句子切段分别生成,再在剪辑软件里接起来,成片的连贯性反而比一次跑长镜头更好。

跑起来对硬件有什么要求,普通人能用吗?

它属于需要自己部署的方案,要配置 Python 环境、下载模型文件、有独立显卡才能跑推理,命令行不熟悉的人上手会比较吃力。如果你只是想要一个网页里传照片就出视频的工具,这类开源项目不是最省事的选择,用云端数字人产品会更直接。

生成结果不自然怎么办?

先排查输入:换一张更正面的照片、把音频里的噪声清掉,往往就能改善一大截。还有两个常用手段,一是同一段输入多跑几版挑最好的一版,二是把输出送进人脸修复或超分环节,压掉嘴部和牙齿附近的糊化伪影。最后还是不满意,就把长镜头拆成短段重做。

Hallo3竞品对比

COMPARISON工具标签
工具编辑评分价格核心功能平台
Hallo3本工具 4.2 未标价 肖像驱动动画;高动态幅度;扩散变换器架构;口型与表情同步 —
JoyVASA — 未标价 基于扩散模型的音频驱动人像和动物图像动画技术 —
X-Portrait 2 — 未标价 高度表现力的肖像动画技术 —
Make Pixels Dance — 未标价 高动态视频生成 —
X-Dyna — 未标价 X-Dyna 是一种基于扩散模型的零样本人类图像动画生成技术 —
I2VEdit — 未标价 一种基于图像到视频扩散模型的视频编辑技术 —