Don't Be Too Aggressive: Negative Steps in Second-Order Methods

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究探讨了传统第二阶优化方法在现代机器学习中的局限性,提出通过引入负步长来提升优化效果。实验结果表明,负步长优于常见的Hessian修改方法,展现了第二阶方法的潜力。

🏷️

标签

➡️

继续阅读