遮挡感知场景解耦
把场景拆成遮挡、人体、背景三个独立部分,分别建模。这种解耦让方法在人体被障碍物挡住时,仍能推断被遮部分的几何与外观,而不像常规方法那样直接把遮挡当成人体的一部分。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
从有遮挡的单目视频中渲染完整人体三维外观的神经渲染方法
Wild2Avatar 是斯坦福大学联合松下研发的神经渲染方法,论文发表于 arXiv(2023)。它专门处理真实世界单目视频中人体被障碍物部分遮挡的情况,通过把场景解耦为遮挡、人体、背景三部分,分别用神经辐射场建模并聚合渲染,从而在被遮挡时仍能补全人体几何。方法引入遮挡感知的场景参数化与完整性损失约束,实验在真实野外视频上验证了有效性。目前以研究代码形式发布,未公布任何定价、额度或商业版本信息。
Wild2Avatar 是一套由斯坦福大学视觉与学习实验室(SVL)联合松下控股研发的神经渲染方法,第一作者为 Tiange Xiang,通讯作者为李飞飞与 Ehsan Adeli,论文于 2023 年发布在 arXiv。
它解决的问题是:当相机视野被人或物体遮挡时,如何从单目视频中渲染出移动人体的完整三维外观。主流方法通常假设拍摄条件理想、场景无遮挡,而 Wild2Avatar 针对真实野外视频中的部分遮挡场景,提出了遮挡感知的场景参数化方案。
方法层面,它把整个场景解耦为遮挡、人体、背景三个部分,分别用两个神经辐射场建模;人体在有界球体内通过 SDF 体渲染,背景映射到球面坐标,遮挡则建模为相机与内球之间的区间。三部分渲染结果依次聚合,并通过专门的损失函数强制人体与遮挡、背景解耦,同时惩罚人体几何不完整。对于研究者,它提供了处理遮挡场景的新思路;对于开发者,代码已在项目页公开可供复现与二次开发。
把场景拆成遮挡、人体、背景三个独立部分,分别建模。这种解耦让方法在人体被障碍物挡住时,仍能推断被遮部分的几何与外观,而不像常规方法那样直接把遮挡当成人体的一部分。
人体与遮挡/背景分别用两个独立的神经辐射场表示。人体用渲染网络 F^fg 学习辐射和到表面的距离,场景用 F^scene 学习辐射和密度,两套网络分工明确,避免了单网络建模时人体与背景相互干扰。
人体被参数化在一个有界球体内,借助预先计算的身体姿态把光线样本变形到规范空间,再通过 SDF 体渲染生成表面。相比纯密度场方法,SDF 表达能更准确地约束人体表面,减少飘浮伪影。
无界背景被映射到球面上的坐标及其反向距离来表示,由 F^scene 网络学习背景光线样本的辐射和密度。这种方式把无限延伸的背景压缩到有限参数空间,便于网络学习。
遮挡空间被定义为相机与内球之间的区间,光线样本用内球表面坐标及反向距离参数化,同样由 F^scene 渲染。把遮挡单独作为一层处理,是方法实现解耦的关键设计。
方法设计了针对性的目标函数:L_occ 鼓励遮挡与人体解耦,L_comp 惩罚人体几何不完整。多重损失共同监督三部分渲染的聚合结果,保证遮挡层不会被人体的辐射误吸收。
实验在真实野外单目视频上进行,用于验证方法在自然遮挡场景下的有效性。项目页提供了与原视频对比的交互式渲染结果,可切换不同方法与不同人物查看渲染效果。
项目页提供 arXiv 论文与代码入口,论文标题为《Wild2Avatar: Rendering Humans Behind Occlusions》,2023 年发布,可供研究者复现与继续开发。页面模板借用自 ReConFusion,代码部分借用自 OCC-NeRF。
Wild2Avatar 是一篇学术论文配套的项目,适合需要用遮挡感知方案处理单目视频人体重建的研究者参考。它的核心价值在于把遮挡作为独立场景层来建模的思路,以及配套的解耦与完整性损失设计,这在已有方法普遍假设无遮挡的背景下是一个明确的差异化方向。但作为学术项目,它没有产品化的界面、定价、服务等级或商用授权说明,也不适合作为即拿即用的工具。当你的目标是复现研究或在遮挡场景下做实验时值得研究;当你的目标是直接给视频做人体渲染出片时,需要另找成熟的工程化产品。
论文直接针对遮挡场景的单目视频人体渲染,方法细节、损失设计与对比实验都可直接作为研究起点,适合读论文与复现。
项目页有方法概述与可视化对比,配合 arXiv 论文可以用于理解 NeRF、SDF 体渲染与场景解耦的工程实现思路。
该项目没有产品界面、定价或服务承诺,只有论文与代码,直接拿来给视频出片并不现实,需要先做工程化改造。
论文未说明商用授权与再分发条件,若计划把方法用于商业产品,需要先向作者与相关机构确认授权范围。
它是一套神经渲染方法,目标是从真实世界的单目视频中渲染出移动人体的完整三维外观,尤其针对人体被障碍物部分遮挡的情况。已有方法大多假设拍摄场景清晰无遮挡,Wild2Avatar 则把遮挡、人体、背景显式解耦开来分别建模,再用多重损失监督聚合渲染结果。
项目页把 Vid2Avatar 列为对比基线,在结果区提供两者的渲染对比,可以切换方法与人物、拖动滑块查看差异。Wild2Avatar 相对基线的核心差异是在遮挡场景下引入了独立的遮挡层与解耦、完整性损失约束。
核心是神经辐射场加 SDF 体渲染:人体在有界球内建模,通过预计算身体姿态把光线样本变形到规范空间,由渲染网络 F^fg 学习辐射与表面距离;背景和遮挡则由 F^scene 学习,遮挡取相机与内球之间的区间,三部分渲染依次聚合。
项目页提供 arXiv 与 Code 两个入口,论文标题为《Wild2Avatar: Rendering Humans Behind Occlusions》,2023 年发布,作者包括 Tiange Xiang、Adam Sun、Scott Delp、Kazuki Kozuka、李飞飞与 Ehsan Adeli。代码部分借用自 OCC-NeRF,页面模板借用自 ReConFusion。
论文与项目页未说明商用授权与再分发条件,也没有服务等级或技术支持承诺。若打算把方法用于商业产品,需要先与作者及所属机构确认授权范围,并自行承担工程化与合规成本。
方法通过把遮挡单独建模为一层来避免遮挡辐射被人体的神经辐射场吸收,同时用 L_occ 强制遮挡与人体解耦、用 L_comp 惩罚人体几何不完整。人体部分再用 SDF 体渲染得到表面,因此在遮挡区域也能推断出完整的人体几何与外观。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Wild2Avatar本工具 | 4.3 | 未标价 | 遮挡感知场景解耦;双神经辐射场建模;SDF 体渲染人体;球面坐标背景建模 | — |
| Vid2Avatar本工具 | — | 未标价 | 在项目页被列为基线方法,结果区提供与 Wild2Avatar 的渲染对比 | — |
两者在项目页的结果区被直接对比:Vid2Avatar 作为基线,Wild2Avatar 在其基础上增加了遮挡、人体、背景三部分解耦与配套损失。当场景没有遮挡时,基线方法已经能给出合理结果;当视频中存在明显遮挡时,Wild2Avatar 的遮挡感知参数化更适合。如果你的研究关注遮挡场景下的完整性,可以在复现基线后重点对比遮挡区域的渲染质量。