梯度抛光:通过动态控制雅可比矩阵来改进梯度下降

📝

内容提要

通过调节 Lyapunov 指数来稳定梯度并提高循环神经网络 (RNN) 训练的有效性,减缓梯度爆炸和梯度消失问题。

➡️

继续阅读