两层神经网络全局最小值附近的结构和梯度动态

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文研究了两层神经网络在全局最小值附近的损失函数图景,确定了能够实现完美泛化的参数集,并描述了其梯度流动。通过新颖的技术,揭示了复杂的损失函数图景的简单特征,并解释了过度参数化的神经网络能够很好地泛化的原因。

🏷️

标签

➡️

继续阅读