随机近端点算法的方差降低技术
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本研究首次提出了针对随机近端点算法的方差缩减技术研究,介绍了SVRG、SAGA和其变种的随机近端版本,并提供了多个收敛结果。实验结果表明,近端方差缩减方法在选择步长方面具有更好的稳定性。
🎯
关键要点
- 本研究首次提出了针对随机近端点算法的方差缩减技术研究。
- 介绍了针对平滑凸函数的SVRG、SAGA及其变种的随机近端版本。
- 提供了多个收敛结果,特别是在满足Polyak-Lojasiewicz条件下的线性收敛速度。
- 数值实验结果表明,近端方差缩减方法在选择步长方面具有更好的稳定性。
➡️