BriefGPT - AI 论文速递 · 2024-03-05T00:00:00Z SOFIM：使用正则化的费歇尔信息矩阵进行随机优化 💡 原文中文，约600字，阅读约需2分钟。 📝 内容提要 该论文提出了一种新的随机优化方法SOFIM，用于大规模机器学习模型的优化。SOFIM利用FIM近似Hessian矩阵，类似于Adam方法，解决小批量非定常目标问题。实验结果表明，SOFIM在图像分类数据集上优于带动量的SGD和其他牛顿优化方法。 🏷️ 标签 Hessian矩阵 SOFIM 图像分类数据集 大规模机器学习模型 随机优化方法 阅读原文 生成长图 分享链接 已复制链接
