本文探讨了深度神经网络的频率偏向、Jacobian谱结构及超参数对性能的影响。研究发现,深度网络在学习高频函数时受参数扰动影响,且不同非线性函数具有普适极限谱分布。此外,随机初始化和稀疏神经活动显著影响网络性能,并提出了新的核函数以优化学习速度和泛化能力。
完成下面两步后,将自动完成登录并继续当前操作。