关于用于分摊推断的扩散模型：基准测试和改进的随机控制和采样
内容提要
该文综述扩散生成模型研究，涵盖随机控制统一采样与变分推断以提升表达力、确定性推理策略加速采样25倍、结合扩散映射与朗格朗日动力学解决稳定性问题、薛定谔桥建模非归一化密度、去随机扩散加速离散模型、能量扩散生成器实现准确KL估计、扩展动力学融合采样与规划，以及Stein变分梯度训练随机网络逼近目标分布。
延伸解读
扩散模型采样加速的实用进展
文章提到，通过提取确定性推理策略，行动采样速度可提高25倍以上，同时保持最先进的性能。这解决了扩散模型在强化学习等场景中计算密集、耗时的问题。对于需要实时决策的应用，这种加速意味着扩散模型可以更实际地部署，而无需牺牲生成质量。
稳定性与条件生成的改进
结合扩散映射和朗格朗日动力学的生成模型，通过匹配核带宽与时间步长，有效解决了随机微分方程中常见的稳定性问题。该框架还能自然地扩展到条件样本生成，并在合成数据集和随机子网格尺度参数化条件采样问题中验证了性能。这为需要稳定训练和条件控制的生成任务提供了新思路。
非归一化密度建模的新途径
基于薛定谔桥的方法能够对非归一化目标密度进行建模，并确定给定先验分布和指定目标之间的最可能随机演变。这扩展了扩散模型的应用范围，使其能够处理未归一化密度的复杂分布，为贝叶斯推断和能量模型等场景提供了新的工具。
离散扩散与能量扩散的进展
去随机扩散过程加速了离散扩散模型的算法，并引入连续时间采样算法，在自然语言生成和机器翻译任务中提升了生成速度和样本质量。同时，能量扩散生成器通过变分自编码器结构和广义哈密顿动力学解码器，实现了对目标分布KL散度的准确估计，并在复杂分布上展示了优越性。
Q&A
扩散生成模型在采样和变分推断方面有哪些统一的视角？
通过随机控制的视角，为扩散生成模型的采样和变分推断提供了统一的观点，并量化了基于扩散的生成模型的表现力。
如何加速扩散模型的采样过程？
提出了一种从评论家模型和预训练的扩散行为模型中提取确定性推理策略的方法，利用后者在优化过程中直接规范化行为分布的评分函数，从而在训练和评估期间完全避免计算密集型和耗时的扩散采样方案，将行动采样速度提高了25倍以上，同时仍保持着最先进的性能。
扩散映射和朗格朗日动力学如何结合解决稳定性问题？
提出了一种结合扩散映射和朗格朗日动力学的生成模型，通过扩散映射近似训练样本的漂移项，并在离散时间的朗格朗日采样器中实现，以生成新样本。通过设置核带宽与未调整的朗格朗日算法中使用的时间步长相匹配，有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。
薛定谔桥在非归一化密度建模中有什么作用？
该论文提出了基于深度学习的方法来对非归一化目标密度进行建模，并使用特定问题的薛定谔桥问题来确定在给定先验分布和指定目标之间的最有可能的随机演变，其中包括前面出现的目标作为特殊情况。
去随机扩散过程如何加速离散扩散模型？
通过提出一种新颖的去随机扩散过程，加速了离散扩散模型的算法；还引入了一种连续时间采样算法，能够比有限步长的离散时间采样算法提供更好的样本质量。实验表明，在自然语言生成和机器翻译任务中，该方法在生成速度和样本质量方面表现出优越性。
基于能量扩散生成器的采样器如何实现准确的KL估计？
介绍了一种称为基于能量扩散生成器的新型采样器，用于从任意目标分布生成样本。采样模型采用类似变分自动编码器的结构，利用解码器将来自简单分布的潜在变量转换为逼近目标分布的随机变量，并设计了基于扩散模型的编码器。通过利用扩散模型对复杂分布的强大建模能力，可以获得生成样本的分布与目标分布之间的Kullback-Leibler散度的准确变分估计。
如何利用扩散概率模型融合采样与规划？
通过扩展动力学模型，利用扩散概率模型去掉了传统轨迹优化方法的瓶颈，将采样和计划步骤近乎完全融合，通过分类器和图像插值获得了在线规划策略，并在长期决策和测试时间灵活性强的控制环境中成功应用了该框架。
Stein变分梯度如何用于训练随机网络逼近目标分布？
提出了一种利用随机神经网络训练概率推理目标分布的简单算法，基于Stein变分梯度迭代地适应神经网络参数，并将输出沿着与目标分布KL散度最大程度下降的Stein变分梯度变化，可适用于任何由未归一化密度函数指定的目标分布，并且可以训练任何针对我们想要适应的参数可微不可微黑盒结构。
