随机牛顿近端外推法

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文研究了解决两个函数之和的最小值问题的外推梯度方法,证明了该方法在特定假设下的收敛性和收敛率,并展示了数值结果。

🎯

关键要点

  • 研究了解决两个函数之和的最小值问题的外推梯度方法。
  • 在Kurdyka-Lojasiewicz假设下,证明了该方法得到的序列收敛于问题的临界点并具有有限长度。
  • 分析拓展到两个函数均为凸函数的情况,并证明了其次线性收敛率。
  • 展示了将小型prox复杂度结果应用于此方法的机会。
  • 提供了一种精确的线搜索方案,用于proximal分解方法。
  • 实现这种方案对于一范数规则化最小二乘问题的细节。
  • 数值结果表明将非加速方法与精确线搜索相结合可能是一个有竞争力的选择。
➡️

继续阅读