该文综述神经网络损失曲面的拓扑研究:网络层可通过非同胚映射改变数据拓扑,ReLU更有效;深度增加使Betti数降至最低,拓扑复杂度衰减可衡量泛化能力;并分析损失曲面的虚假局部极小值、鞍点处优化算法差异,以及过参数化下局部极小值多为全局最优等结论。
完成下面两步后,将自动完成登录并继续当前操作。