几何条件下的协同控制 PBR 图像生成
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
基于生成模型的3D内容生成依赖于RGB图像,但现代图形管道需要物理基础渲染(PBR)材质属性。研究者提出直接建模PBR图像分布,以避免RGB生成中的光度不准确和从RGB中提取PBR时的固有模糊性。通过保留冻结的RGB模型并通过一种新颖的跨网络通信范例紧密链接新训练的PBR模型,克服了现有交叉模态微调范例中的数据不足和输出模态的高维度的挑战。实验验证了设计选择、对数据稀疏性的鲁棒性,并与现有范例进行了比较。
🎯
关键要点
-
基于生成模型的3D内容生成依赖于RGB图像。
-
现代图形管道需要物理基础渲染(PBR)材质属性。
-
提出直接建模PBR图像分布,以避免RGB生成中的光度不准确和从RGB中提取PBR时的固有模糊性。
-
通过保留冻结的RGB模型并紧密链接新训练的PBR模型,克服数据不足和输出模态高维度的挑战。
-
所提出的方法在微调过程中不会出现灾难性遗忘,且与IPAdapter等技术兼容。
-
通过广泛实验验证设计选择、对数据稀疏性的鲁棒性,并与现有范例进行比较。
➡️