U-Nets 作为信念传播：在生成层次模型中高效分类、去噪和扩散
内容提要
本文探讨了通用 U-Net 体系结构的设计与分析，提出了多种新方法以提升图像生成与分割性能，包括扩散模型、图形 U-Nets 和 iUNet。这些模型在无监督学习、去噪和生成任务中表现优异，能够加速抽样速度并保持高质量输出。
延伸解读
U-Net 架构的通用设计框架
文章提出了一个设计和分析通用 U-Net 体系结构的框架，阐述了编码器和解码器的作用，并探讨了其与 ResNets 的相关性及高分辨率缩放极限。该框架旨在为 PDE 模型、图像分割和扩散模型提供更好的性能，并支持设计新的 U-Net 架构以解决方形图像之外的多种问题。
扩散模型在分类任务中的优势
文章指出，扩散模型作为一种统一的表征学习器，在图像分类任务中表现出优异的性能。特别是在经过精心特征选择和池化后，扩散模型明显优于 BigBiGAN 等其他可比较的生成-判别方法。这表明扩散模型不仅适用于生成任务，在判别任务中也具有潜力。
加速扩散抽样的策略
通过研究 U-Net 在去噪扩散概率模型中的动态行为，文章发现编码器特征变化温和，而解码器特征在不同时间步长间存在显著变化。基于此，作者引入了编码器传播策略和先验噪声注入方法，在不使用知识蒸馏的情况下，将 Stable Diffusion 和 DeepFloyd-IF 的抽样速度分别加快 41% 和 24%，同时保持高质量的生成性能。
iUNet 与可逆结构
文章介绍了一种基于可逆 U-Net 结构的新型网络 iUNet，它采用新颖的可学习可逆上下采样操作，可以在同样的 GPU 存储限制下训练更深更大的网络，并用于建立正则化流模型。这为在有限计算资源下提升模型容量提供了新思路。
Q&A
U-Net 体系结构的主要优势是什么？
U-Net 体系结构在图像生成与分割任务中表现优异，能够提升 PDE 模型和扩散模型的性能。
什么是 FreeU 方法，它如何提高生成质量？
FreeU 方法通过重新加权 U-Net 的跳跃连接和特征图，结合两者的优势，显著提高生成质量。
图形 U-Nets 模型在什么任务中表现优异？
图形 U-Nets 模型在节点分类和图形分类任务中表现优于先前的模型。
如何加速扩散抽样并改善生成图像的质量？
通过引入编码器传播策略和先验噪声注入方法，可以加速扩散抽样并改善生成图像的纹理细节。
iUNet 网络结构的特点是什么？
iUNet 是基于可逆 U-Net 结构的新型网络，能够在相同 GPU 存储限制下训练更深更大的网络。
无监督去噪扩散模型的训练方式是什么？
无监督去噪扩散模型通过去噪扩散目标进行训练，无需任何注释或先验知识。
