BriefGPT - AI 论文速递 · 2023-12-28T00:00:00Z

梯度抛光：通过动态控制雅可比矩阵来改进梯度下降

📝

内容提要

通过调节 Lyapunov 指数来稳定梯度并提高循环神经网络 (RNN) 训练的有效性，减缓梯度爆炸和梯度消失问题。