分布反向追踪构建更快收敛轨迹的单步扩散蒸馏

BriefGPT - AI 论文速递 · 2024-08-28T00:00:00Z

本文介绍了一种名为Score identity Distillation（SiD）的无数据方法，通过将预训练扩散模型的生成能力提炼到一个单步生成器中，实现了快速的Fréchet inception distance (FID) 减小。SiD算法在蒸馏过程中显示出高迭代效率，并超越了其他蒸馏方法，无论是一步还是几步，无数据还是依赖于训练数据。这一成就不仅重新定义了扩散蒸馏中效率和效果的基准，还在更广泛的扩散生成领域中也有着重要的意义。