本研究分析了图神经网络(GNNs)的优化动态和损失几何特征,发现图结构主导其非线性模式连接性,并揭示了模式连接性与泛化能力之间的关系,为图学习中的领域对齐策略提供了理论支持。
本文探讨了深度神经网络损失面中的模式连接性,研究了最小值的平坦程度与泛化性能的关系。通过信息几何框架,提出了一种算法来近似测地线,并验证了其在模式连接中的有效性。同时,研究了网络权重置换对损失曲面的影响,提出了神经元对齐的方法,展示了优化路径的线性特性及其稳定性。
完成下面两步后,将自动完成登录并继续当前操作。