从多视角图像中学习无符号距离函数与体渲染先验

💡 原文中文,约1500字,阅读约需4分钟。
📝

内容提要

本文介绍了多种神经渲染方法用于3D表面重建,包括NeuralUDF、nEudf和DEUDF等。这些方法通过无符号距离函数和多视图监督,成功重建复杂形状,提升了精度和鲁棒性,尤其在处理开放边界和噪声点云时表现优越。实验结果显示,这些新方法在多项基准测试中超越了现有技术。

🔎

延伸解读

无符号距离函数为何受关注

传统有符号距离函数(SDF)要求表面封闭,难以表示开放或非封闭形状。无符号距离函数(UDF)只关心点到表面的绝对距离,不区分内外,因此能自然处理开放边界、任意拓扑结构。本文汇总的NeuralUDF、nEudf等方法正是利用这一特性,从多视角图像或点云中重建复杂形态,突破了SDF的局限。

多视角监督与体渲染的融合

多视角图像提供丰富的2D监督信号,但深度不完整和遮挡是常见问题。本文提到的方法通过体渲染和深度融合先验,将多视角RGBD图像学习为神经隐式表示,并利用截断有符号距离函数(TSDF)融合深度信息,从而在几何推断中补全缺失结构,提升重建的完整性和准确性。

从点云直接学习的鲁棒性进展

针对原始点云常含噪声和异常值的问题,LoSF-UDF利用局部形状函数学习UDF,无需针对特定形状训练,增强了鲁棒性;DEUDF则通过法线对齐、SIREN网络和自适应加权等策略,稳定了从未定向点云中学习的过程。这些进展表明,UDF学习正朝着更适应真实扫描数据的方向发展。

表面提取与下游应用

UDF表示的非封闭曲面需要转换为显式网格才能用于渲染或下游任务。本文介绍了扩展的Marching Cubes算法,能够快速准确地将UDF转换为网格,且表面提取过程可微分,适用于稀疏数据训练。此外,AnchorUDF在单视图3D服装重建中表现出色,展示了UDF在开放表面建模和拓扑控制方面的应用潜力。

❓

Q&A

NeuralUDF 方法的主要功能是什么?

NeuralUDF 方法通过体绘制从 2D 图像重建任意拓扑表面,成功实现复杂形态的非封闭形状高质量重建。

nEudf 方法在重建开放边界物体时有什么优势?

nEudf 方法仅通过多视图监督重建表面,在处理开放边界物体时表现卓越,超越了已有的多视图表面重建方法。

LoSF-UDF 框架如何增强对点云的鲁棒性?

LoSF-UDF 框架利用局部形状函数学习无符号距离场,增强了对点云中噪声和异常值的鲁棒性。

DEUDF 方法是如何提高 UDF 的准确性的?

DEUDF 方法通过集成法线对齐和 SIREN 网络捕获细致几何细节,显著提高了 UDF 的准确性和重建曲面质量。

如何从原始点云学习一致性感知无符号距离函数?

研究提出了一种新方法,从原始点云直接学习一致性感知无符号距离函数,以进行表面重建,并引入多边形化算法提取表面。

AnchorUDF 方法在 3D 服装建模中有什么应用?

AnchorUDF 方法在单个图像中使用可学习的无符号距离函数表示 3D 服装模型,实现开放服装表面建模和更好的控制拓扑结构。

🏷️

标签

➡️

继续阅读