深度学习中使用梯度下降法无法逼近极小值

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

该文章解释了浅层神经网络的几何结构,包括隐藏层、斜坡激活函数和L2 Schatten类代价函数。通过使用投影适应训练输入向量的平均值,获得了一个近似优化器。成本函数的精确退化局部最小值与上界相差一个相对误差。该网络度量了输入空间中的一个子空间,并评论了成本函数的全局最小值。

🏷️

标签

➡️

继续阅读