深度学习作为 Ricci 流

原文约500字,阅读约需2分钟。发表于:

深度神经网络经过一系列几何和拓扑简化来进行分类任务,而这与 Hamilton 的 Ricci 流在微分几何中平滑曲率以识别拓扑结构的过程存在对应关系。通过构建一个计算框架来量化数据通过 DNN 的不同层时发生的几何变化,我们展示了全局 Ricci 网络流与 DNN 的准确性相关,并且对深度和宽度无关,也适用于不同的数据集。这些发现推动了将微分几何和离散几何工具应用于深度学习解释性问题。

通过基于分数的逆扩散算法生成的高质量样本证明了深度神经网络可以学习高维密度。降噪DNN在非重叠的数据集子集上训练,学习到相同的密度,只需少量训练图像。去噪器在适应底层图像的基础上执行了收缩操作,生成几何自适应谐波表示。经过训练的去噪器在归纳偏差方面具有偏好。网络在已知最优基础为几何自适应谐波的常规图像类别上训练时,去噪性能接近最优。

相关推荐 去reddit讨论