通过研究深度神经网络的层次结构,发现随着深度增加,数据集的拓扑结构变得简单,Betti数最小。拓扑复杂度的衰减速率可以量化架构选择对泛化能力的影响。通过考虑预训练模型的排序任务,证明了网络的表达能力与泛化能力之间的联系。
完成下面两步后,将自动完成登录并继续当前操作。