通过MultiPly框架,从野外单目视频中重建多个人的3D模型。利用分层神经表示还原整个场景,包括个体人物和背景模型。混合实例分割方法结合了自我监督的3D分割和可提示的2D分割模块,得到可靠的实例分割辅助训练。通过优化公式交替优化人体姿势和形状/外貌,实现高度保真度的时间一致的3D重建结果。在公开数据集和野外视频上展现了优越性能。
该文介绍了一种新的框架,用于从野外视频中重建人体和场景,并提供新的人体姿势和视角渲染的方法。该方法能够从仅 10 秒的视频剪辑中学习特定主题的细节,并提供在新视角和新姿势下人体的高质量渲染和背景。
本文提出了一个新的框架,用于从野外视频中重建人体和场景,并在单个视频上提供新的人体姿势和视角渲染的方法。通过训练两个 NeRF 模型(human 和 scene),并依赖现有方法估计人体和场景的大致几何形状,可以从观察空间创建到无关姿态的规范空间的偏移场,进而在规范空间中训练人体模型。我们的方法能够从仅 10 秒的视频剪辑中学习特定主题的细节,包括服装褶皱和配件,并提供在新视角和新姿势下人体的高质量渲染和背景。
完成下面两步后,将自动完成登录并继续当前操作。