量子位
·
谢赛宁团队突破高斯泼溅内存瓶颈，并行方案实现多显卡训练
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
谢赛宁团队和NYU系统实验室通过设计并行策略，推出了高斯泼溅模型的多卡训练方案，可以加速3.5倍以上。Grendel是他们提出的分布式训练系统，在大场景、高分辨率环境下突破了内存局限，生成了更多高斯，3D结果质量更高。Grendel采用混合粒度的并行策略，通过稀疏的全对全通信和动态负载均衡机制，实现了高斯泼溅模型的多卡训练。
🎯
关键要点
- 谢赛宁团队和NYU系统实验室突破高斯泼溅模型的内存瓶颈，推出多卡训练方案。
- 通过并行策略，在4张卡上训练可加速3.5倍，32卡可加速6.8倍。
- Grendel是该团队提出的分布式训练系统，能够处理大场景和高分辨率环境下的渲染任务。
- Grendel采用混合粒度的并行策略，结合稀疏全对全通信和动态负载均衡机制。
- 在Rubble和MatrixCity等复杂场景中，Grendel生成了高保真的渲染结果。
- Grendel在Mip360和TT&DB数据集上实现了3-4倍的速度提升，且渲染质量几乎没有损失。
- Grendel将高斯泼溅训练过程划分为高斯变换、渲染和损失计算三个主要阶段。
- 在不同阶段，Grendel采用不同的并行粒度以提高训练效率。
- 动态负载均衡机制帮助Grendel优化渲染时间，提升GPU利用率。
- Grendel支持批量训练，动态调整学习率以保证训练稳定性和收敛性。
➡️
