扩散模型的动力学区域
原文中文,约500字,阅读约需2分钟。发表于: 。利用统计物理方法,我们研究了在空间维度和数据量非常大且得分函数经过最优训练的情况下的生成性扩散模型。我们的分析揭示了在向后生成性扩散过程中的三个不同的动力学阶段。生成动力学从纯噪声开始,首先经历了一次 “分化” 转变,其中数据的总体结构得到了揭示,通过类似相变中的对称性破缺机制实现。随后,在后续时间内出现了一次 “坍塌”...
利用统计物理方法研究了生成性扩散模型的动力学阶段,分化和坍塌转变揭示了数据结构和动力学轨迹被吸引到记忆的数据点。通过谱分析和额外熵估计可以找到分化和坍塌时间,高斯混合模型的解析解验证了这些结果。