重力约束的世界坐标
把重力方向作为独立参考系,与相机视角解耦,使斜拍、手持晃动、镜头旋转的素材也能恢复出竖直站立的人体动作,减少整个人物整体倾斜的估计偏差。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
GVHMR 是浙江大学三维视觉团队开源的人体运动恢复项目,核心思路是把「重力方向」作为约束引入单目视频的人体姿态估计,从而在任意拍摄角度下推算出符合物理直觉的世界坐标系动作。它面向的是研究者和开发者,而不是想一键出片的普通剪辑用户:需要自己准备代码环境、跑模型、处理输入视频,输出的是骨骼参数而非直接的动捕文件。优点是开源可改、处理视角自由,短板也明显——上手门槛高,效果对拍摄质量敏感,且官网未公开精度、速度等可横向对比的指标。
GVHMR(Gravity-View Human Motion Recovery)是浙江大学三维视觉相关团队推出的学术开源项目,研究目标是从一段普通单目视频中恢复出人体在世界坐标系下的三维运动序列。面向的主要是计算机视觉、图形学方向的研究人员,以及做虚拟人、数字人、动作捕捉相关产品开发的技术团队。
它的技术切入点在于重力。传统单目人体运动恢复常常把相机当成世界中心,一旦镜头倾斜或运动,估计出来的动作就会「歪」掉,人像是站在斜面上。GVHMR 显式地把重力方向纳入建模,把相机视角和重力视角分离,因此无论手机是横着拍还是斜着拍,恢复出的动作都能落回一个稳定的世界坐标系里。
不同角色的用法差别很大。研究者会直接读论文与代码,复现方法、替换其中的估计模块做消融;开发者更关心把它接进自己的管线,用命令行对视频批量跑推理,再把输出的动作参数喂给下游的驱动或渲染模块。它本身不是一个带图形界面的消费品,拿到结果后如何可视化、如何转成引擎可用的格式,需要使用者自己补上。
把重力方向作为独立参考系,与相机视角解耦,使斜拍、手持晃动、镜头旋转的素材也能恢复出竖直站立的人体动作,减少整个人物整体倾斜的估计偏差。
只需一段普通单目视频即可运行,不需要多机位同步、不需要穿戴设备,也不要求深度相机,拍摄门槛比传统光学动捕低得多。
代码与模型权重开放,研究者可以逐步跑通推理流程、替换其中的姿态或相机估计模块,用于方法对比和消融实验,而不是只能调用一个黑盒接口。
以脚本形式提供推理入口,输入视频路径、输出动作参数,适合接入批处理管线;没有面向普通用户的图形界面。
恢复结果以人体模型参数形式给出,包含姿态与全局位移,便于下游的动画驱动、动作分析或再渲染使用,但转换为引擎格式需要自行处理。
当你是做三维视觉、数字人或动作驱动的开发者,需要把一段随手拍的视频变成可用的骨骼动作数据,并且愿意自己搭环境、看代码、调试输入,GVHMR 值得投入时间——重力约束这个设计恰好解决了手持素材最容易翻车的倾斜问题。但如果你要的是导入视频就出成片的消费级工具,它并不合适:没有界面、没有一键导出、结果还需要你自己接渲染或引擎。另外它属于研究型项目,实际效果相当依赖拍摄清晰度、人物是否遮挡、镜头运动是否过猛,上量之前先用自己素材小规模验证是必要的。
需要复现方法、做模块替换和消融实验,开源代码与模型权重正好可用;但要自己承担环境配置与调参成本。
已有渲染与驱动管线,只缺从视频提取动作这一段,把推理结果接进去即可;转格式和实时性需要自行评估。
能省掉部分穿戴式动捕成本,但需要有人能读懂代码、维护环境;对交付周期紧、无人接手技术的团队是额外负担。
没有图形界面、没有导出成片功能,需要命令行操作并自行完成后续渲染,与这类需求不匹配。
一个开源的人体运动恢复方法,输入一段普通单目视频,输出人体在世界坐标系下的三维骨骼动作,特点是显式利用重力方向来消除拍摄角度带来的整体倾斜。
差别主要在参考系。多数方法把相机当作世界中心,镜头一旦倾斜,恢复出的动作也跟着歪。GVHMR 把重力方向单独建模,让结果落回一个稳定的竖直世界坐标,对手机随手拍的素材更友好。
需要一台能跑深度学习推理的机器,通常是带独立显卡的工作站,并自行安装深度学习框架和相关图形库。官网未公开最低硬件要求,建议按同类三维人体恢复项目的常见配置准备后先跑通示例。
可以作为动作来源,但它只负责从视频恢复骨骼参数。要驱动虚拟人还需要你自行把参数转成引擎或渲染器可用的格式,并处理朝向、尺度对齐等问题,这部分项目本身不提供现成方案。
不能。它没有图形界面,也没有一键导出成片的功能,整条流程靠命令行脚本完成,输出的是运动参数而不是视频。更适合有开发能力、已有下游管线的人。
人物全身可见、遮挡少、镜头平移为主而非剧烈甩动的素材通常更稳。人物频繁出画、被大面积遮挡或镜头快速旋转时,姿态和全局位移都容易出错,这类素材建议先小样本试跑再决定是否上量。
先看人物有没有「站直」:把结果放到三维场景里观察,若整体明显前倾或侧倾、脚底不贴地,说明世界坐标没对齐;再看长时间序列里整体位移有没有缓慢漂移。这两点比逐帧看关节角度更容易发现问题。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| GVHMR本工具 | 4.5 | 未标价 | 重力约束的世界坐标;单目视频输入;开源代码可复现;命令行推理流程 | — |
| MoMask | — | 未标价 | MoMask: 3D 人体运动生成 | — |
| AvatarPose | — | 未标价 | 3D 人体姿态估计技术 | — |
| SMPLer-X | — | 未标价 | 基于大数据和大模型的人体姿态和形状估计模型 | — |
| ControlMM | — | 未标价 | 全身运动生成框架,支持多模态控制 | — |
| MotionCLR | — | 未标价 | 基于注意力机制的运动生成和无训练编辑模型 | — |