HexaGen3D:稳定扩散仅一步之遥,实现快速和多样化的文字到 3D 生成
内容提要
本文综述利用预训练图像扩散模型作为先验的文本到3D生成方法:无需3D训练数据,通过分数蒸馏优化NeRF或三平面表示,可在消费级显卡上快速生成3D资产;也有方法先生成多视图再前馈重建,或结合3D GAN实现风格化头像,显著提升质量与效率。
延伸解读
无需3D数据的生成路径
文章指出,利用预训练图像扩散模型作为先验,通过分数蒸馏优化NeRF或三平面表示,可以绕过对大规模3D训练数据的需求。这意味着开发者无需构建3D数据集,仅用文本提示即可在消费级显卡上生成3D资产,降低了数据门槛和硬件成本。
速度与质量的权衡
文中提到HexaGen3D仅需约8毫秒即可生成一个3D资产,而Instant3D能在20秒内生成高质量结果,比基于优化的方法快两个数量级。但极速生成可能牺牲细节或多样性,读者需根据应用场景在速度与质量间取舍。
多视图与GAN的补充方案
除了直接蒸馏,文章还介绍了先生成多视图再前馈重建(如Instant3D)以及结合3D GAN生成风格化头像(如DiffusionGAN3D)的方法。这些方案各有侧重:前者避免Janus问题,后者提升视觉质量和多样性,为不同需求提供了选择。
Q&A
HexaGen3D 生成一个 3D 资产需要多长时间?
在消费级显卡上仅需约 8 毫秒即可根据文本提示生成一个 3D 资产。
HexaGen3D 需要 3D 训练数据吗?
不需要 3D 训练数据,它通过提炼预训练图像扩散模型作为监督信号来实现文本到 3D 生成。
HexaGen3D 的核心方法是什么?
使用大型预训练的文本到图像扩散模型生成的图像作为监督信号,通过梯度下降优化 3D 模型(如 NeRF),并结合概率密度蒸馏损失函数将 2D 扩散模型与 3D 模型结合。
HexaGen3D 与基于优化的文本到 3D 方法相比速度如何?
HexaGen3D 仅需约 8 毫秒,而基于优化的方法通常需要 1 到 10 小时,速度快了两个数量级以上。
HexaGen3D 能否在消费级硬件上运行?
可以,它能在消费级显卡上快速生成 3D 资产。
HexaGen3D 如何保证生成 3D 资产的多样性?
通过使用预训练图像扩散模型作为先验,并结合概率密度蒸馏损失函数,HexaGen3D 能够生成多样化的 3D 资产。