Pard：无序置换自回归扩散图生成
内容提要
该文综述扩散模型在生成领域的进展，涵盖图生成、文本生成、语音合成、流体求解和视频生成，重点包括离散图空间扩散、自回归扩散模型、非自回归文本扩散、基于Swin Transformer的图生成及视频扩散模型，展示其多模态生成性能与速度优势。
延伸解读
离散图空间扩散的独特设计
文章提出的图生成模型在离散图空间上定义节点吸收扩散过程，这与连续空间扩散不同。通过设计扩散排序网络和去噪网络，模型在生成性能上达到更好或相当的水平，同时生成速度较快。这种离散化处理更贴合图数据的本质，为图生成提供了新思路。
自回归扩散在文本与语音中的进展
文章综述了自回归扩散模型在文本和语音生成中的应用。AR-Diffusion通过动态去噪步骤解决顺序依赖问题，在多种文本任务中表现优异；而语音生成模型以自回归方式生成重叠帧，可实现无限时长合成并保持高保真度。这些进展展示了扩散模型在多模态生成中的潜力。
非自回归文本扩散与流体求解的拓展
非自回归文本扩散综述系统介绍了核心设计、预训练语言模型应用及优化技术，为研究者提供参考。同时，基于条件扩散模型的全数据驱动流体求解器通过自回归预测实现稳定长期复现，并能推广到训练范围外的流动参数，体现了扩散模型在科学计算中的适用性。
图生成中的排序学习与置换不变性
文章提到基于学习的排序方案解决自回归图生成中的排序问题，实验证明其有效性。此外，SwinGNN利用Swin Transformers并引入随机置换后处理技巧，可将任何图生成模型转换为置换不变模型。这些技术提升了图生成的样本质量，并鼓励未来探索学习排序方案。
Q&A
Pard模型是什么？它有什么特点？
Pard是一种基于扩散的图生成模型，通过定义在离散图空间中操作的节点吸收扩散过程，设计了扩散排序网络和去噪网络，实现了更好或相当的生成性能，并且具有快速的生成速度。
自回归扩散模型在文本生成中有什么应用？
自回归扩散模型（如AR-Diffusion）通过引入动态去噪步骤来解决自然语言中的顺序依赖问题，在各种文本生成任务中表现优异。此外，还有PLANNER模型结合自回归生成与潜在语义扩散，用于全局控制段落文本生成，能有效生成高质量的长篇文本。
扩散模型在语音合成方面有什么进展？
有一种基于扩散的概率端到端模型用于生成原始语音波形，通过自回归方式顺序生成重叠帧，可实现无限语音时长的合成，保持高保真度和时间连贯性，直接处理波形具有优势，能创建局部声学行为，且模型是随机的，生成略有差异的波形变体，实验表明其合成质量高于其他最先进的神经语音生成系统。
非自回归文本扩散模型有哪些研究进展？
有一篇综述系统介绍了最新的扩散模型在非自回归（NAR）文本生成领域中的进展，重点介绍了扩散模型的核心设计、预训练语言模型的应用以及优化技术等，旨在为研究人员提供系统参考。
扩散模型如何用于流体求解？
基于条件扩散模型的全数据驱动流体求解器通过自回归预测实现了稳定的长期复现性，同时能够推广到训练范围之外的流动参数。
SwinGNN在图生成中有什么创新？
SwinGNN是一种基于Swin Transformers的非不变扩散模型，它识别出多种关键的训练和采样技术，显著提高了图像生成的样本质量；此外，还介绍了一种随机置换的后处理技巧，可将任何图生成模型转换为置换不变模型。
扩散模型在视频生成中有哪些应用？
有一种自回归、端到端优化的视频扩散模型，受神经视频压缩技术启发，可用于生成高质量的视频，并提出了可扩展的连续排名概率得分（CRPS）方法，以评估视频的概率预测能力，该方法在自然和仿真视频的多个数据集上比先前方法的感知质量和概率预测有显著提高。
