基于得分的密度公式及其在扩散生成模型中的应用
原文中文,约2100字,阅读约需5分钟。发表于: 。本文解决了优化证据下界(ELBO)对扩散生成模型(如DDPMs)训练有效性的理论基础问题,建立了连续时间扩散过程的密度公式,并揭示了目标密度与每一步得分函数之间的联系。研究发现,训练DDPMs的优化目标的最小化几乎与真实目标一致,为使用ELBO优化DDPMs提供了理论支持,同时为GAN培训中的得分匹配正则化及扩散分类器的ELBO使用提供了新的见解。
本文研究了优化证据下界(ELBO)对扩散生成模型(如DDPMs)训练有效性的理论基础问题,并建立了连续时间扩散过程的密度公式。研究发现,训练DDPMs的优化目标的最小化几乎与真实目标一致,为使用ELBO优化DDPMs提供了理论支持。同时,提出了一种基于评分差异流的新方法,可以将源分布向目标分布推进,具有潜在的应用价值。