BriefGPT - AI 论文速递 · 2023-11-01T00:00:00Z

现代神经网络结构的克罗内克分解近似曲率

📝

内容提要

K-FAC是一种高效的逆近似方法，用于近似神经网络的Fisher信息矩阵，表现比先前的近似自然梯度/牛顿方法更好。

🏷️

标签

Fisher信息矩阵 K-FAC 牛顿方法 神经网络 逆近似方法