本文综述随机递归梯度算法SARAH及其mini-batch、SARAH+、ZeroSARAH等改进版本,用于非凸经验损失最小化。这些方法在一般非凸和梯度主导函数下分别实现子线性与线性收敛,并扩展至分布式学习、复合优化和策略梯度,具有更优复杂度与实用性。
完成下面两步后,将自动完成登录并继续当前操作。