30秒生成建模师级Mesh!最大可生成面数提至1600,GitHub揽星1.9k

💡 原文中文,约2200字,阅读约需6分钟。
📝

内容提要

南洋理工大学、清华大学、帝国理工学院、西湖大学等研究人员完成了MeshAnything V2项目,使用Adjacent Mesh Tokenization(AMT)算法,将最大可生成面数提升到1600。MeshAnything是一个自回归的transformer,以点云为condition,实现高度可控的人造Mesh生成。AMT算法通过优先表达相邻的面片来用一个vertex表达一个面片,提高了性能和效率。

🔎

延伸解读

AMT算法如何提升效率

AMT算法通过优先表达相邻面片,仅用一个顶点表示一个面片,使token序列长度减半。由于Transformer计算复杂度为n²,序列减半意味着注意力计算量降低4倍,从而提升生成效率。同时,更紧凑的序列结构有利于模型学习,这是V2性能提升的关键。

点云条件设计的优势

MeshAnything以点云为条件,使其能与多种3D扫描、重建和生成方法结合。这些方法虽输出不同3D表示,但均可采样点云,进而转换为高质量人造Mesh。这种设计还降低了训练难度,因为点云提供了精细形状信息,模型只需学习如何构建符合点云的Mesh,无需学习复杂3D形状分布。

工业应用潜力与局限

传统方法如Marching Cubes生成的Mesh面片稠密,不符合人类直觉,难以用于游戏、电影等3D工业。MeshAnything生成的人造Mesh面片结构更合理,可直接用于工业pipeline。但当前最大面数仅1600,对于复杂模型可能不足,且训练数据限于ShapeNet和Objaverse,泛化能力待验证。

模型规模与扩展潜力

V1和V2均仅使用350M参数的Transformer和100K训练数据,就实现了高质量人造Mesh生成。这表明该方向仍有巨大扩展潜力,未来通过增大模型和数据规模,可能进一步提升生成面数和质量,推动3D内容创作自动化。

❓

Q&A

MeshAnything V2的主要改进是什么?

MeshAnything V2使用了Adjacent Mesh Tokenization(AMT)算法,将最大可生成面数从800提升到1600,并且减少了token sequence的长度,提高了性能和效率。

什么是Adjacent Mesh Tokenization(AMT)算法?

AMT算法通过优先表达相邻的面片,用一个vertex表达一个面片,从而提高了Mesh生成的性能和效率。

MeshAnything如何实现高度可控的人造Mesh生成?

MeshAnything将点云作为条件,通过自回归的transformer逐个生成Mesh的面片,从而实现高度可控的人造Mesh生成。

MeshAnything V2的训练数据来源是什么?

MeshAnything V2使用ShapeNet和Objaverse中的人造Mesh进行训练。

MeshAnything与传统Mesh生成方法有什么区别?

传统方法生成的Mesh面片稠密,面片数往往是人造Mesh的数百倍,而MeshAnything生成的Mesh更加符合人类直觉,适合实际应用。

MeshAnything的应用潜力如何?

MeshAnything的设计使其能够与多种3D生成方法结合,降低训练难度,具有广泛的应用潜力,尤其在3D工业中。

🏷️

标签

➡️

继续阅读