音视频联合生成
单流 Transformer 在同一次生成中联合去噪视频 token 与音频 token,音画天然对齐,不需要外接 TTS 再对口型。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
DaVinci MagiHuman 是由 Sand.ai 与上海交通大学 GAIR Lab 联合开发的 15B 参数开源音视频生成模型,采用 Apache 2.0 协议发布。它只需一张人脸照片配合文本或音频,就能输出带匹配语音的口型同步说话视频,音频与视频由单一模型同步生成,无需额外拼接语音合成与视频管线。在单张 NVIDIA H100 上生成 256p 短片段约需两秒,的评测中词错误率约为 14.6%,明显低于 Ovi 1.1 的约 40.5%。未公开网页版的价格档位与额度上限。
DaVinci MagiHuman 是一个开源的 AI 数字人视频生成模型,由 Sand.ai 与上海交通大学 GAIR Lab 共同开发。它面向需要制作口播视频的创作者、研究者与开发者,使用方式是把一张人脸照片作为视觉锚点,再配上文本脚本或音频,模型即可输出口型与语音同步的说话视频。
模型为 15B 参数规模,采用单流 Transformer 架构,在同一次生成过程里联合去噪视频 token 与音频 token,而不是把文字转语音和视频生成拆成两条独立管线。它使用 Apache 2.0 许可证发布,可以查看权重、在本地运行推理,并在许可条款范围内商用。在单张 NVIDIA H100 GPU 上,256p 分辨率的两秒短片段约需两秒生成时间,实际速度取决于参数设置与硬件。
官网提供了在线演示工作台,上传照片、填写脚本即可试用;开发者则可以自行部署权重做本地推理或二次开发。还展示了来自 GAIR Lab 与 Sand.ai 的演示片段,用于直观展示其面部表情与语音自然度。
单流 Transformer 在同一次生成中联合去噪视频 token 与音频 token,音画天然对齐,不需要外接 TTS 再对口型。
只需一张人像照片作为视觉锚点,配合文本或音频输入,即可产出说话视频,对素材准备的要求较低。
支持多种语言的唇形同步,具体覆盖范围取决于训练数据与发布说明,官网未逐一列出语言清单。
以 Apache 2.0 协议发布,15B 参数权重可查看、可在本地推理,并可在许可条款范围内用于商业用途。
在单张 NVIDIA H100 上,256p 分辨率约两秒的短片段生成时间约两秒,实际吞吐随设置与硬件变化。
官网提供 Studio 演示入口,上传照片、填入脚本或音频即可生成,结果可在工作室中继续处理。
有一张清晰正脸照片和写好的脚本,想快速产出说话片段,在线工作台可以直接生成,不需要部署环境。
Apache 2.0 协议下可查看 15B 权重并在本地推理,适合做音视频联合生成方向的复现与对比实验。
自备 H100 级别显卡可本地部署,单条 256p 短片段约两秒;消费级显卡能否流畅运行官网未说明。
演示与速度数据基于 256p 短片,更高分辨率的画质表现与生成耗时官网未公开,商用前需自行验证。
模型以 Apache 2.0 许可证发布,权重可以免费查看、在本地运行推理,并可在许可条款范围内商用;官网首页也把产品标注为免费。网页版演示工作台的付费档位与额度上限未公开,需要付费时以官方页面为准。
一张人脸照片,加上文本脚本或音频。照片作为说话人头的视觉锚点,模型据此生成口型与语音同步的视频,音频与视频在同一次生成中产出,无需另外配音对轴。
在单张 NVIDIA H100 GPU、256p 分辨率下,约两秒的短片段生成时间约两秒。这是官方给出的参考值,实际速度会随参数设置与硬件档次变化。
的评测中,该模型词错误率约为 14.6%,对比之下 Ovi 1.1 约为 40.5%;在成对人工偏好测试里,它相对于 Ovi 与 LTX 2.3 赢得了较大比例的对比。具体数值会随测试集与提示词变化。
可以。模型采用 Apache 2.0 许可证发布,允许查看权重、本地推理,并在许可证条款范围内商业使用。使用他人肖像照片时,还需自行确认肖像权与相关授权。
模型支持多种语言的唇形同步,但未逐一列出具体语种,覆盖范围取决于训练数据与发布说明。做中文项目前,建议先在在线工作台用一段中文脚本试生成一条看效果。
官网把 Ovi 1.1 与 LTX 2.3 作为公开基线对比:词错误率上本模型约 14.6%、Ovi 1.1 约 40.5%,并在成对人工偏好测试中赢得较大比例的对比。另外它采用 Apache 2.0 开源,可自行部署,而部分同类方案保持闭源。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| DaVinci MagiHuman本工具 | 4.0 | 免费,网页版未公开价格档位与额度上限 | 音视频联合生成;单张照片驱动;多语言口型同步;开源可商用 | Web / API |
| Ovi 1.1本工具 | — | 未标价 | 包括的公开基线,词错误率约 40.5%,高于本模型的约 14.6% | — |
| LTX 2.3本工具 | — | 未标价 | 包括的公开基线之一,在成对人工偏好测试中落后于本模型 | — |
在官网给出的评测口径下,DaVinci MagiHuman 的词错误率约 14.6%,明显低于 Ovi 1.1 的约 40.5%,并在与 Ovi 1.1、LTX 2.3 的成对人工偏好测试中赢得较大比例的对比。如果看重开源可自部署与音视频一体生成,它更合适;如果只需要闭源托管服务、不打算自己跑推理,则要看这两家提供的托管方案是否更省事。具体选型仍需按各自官网的当期信息判断。