BriefGPT - AI 论文速递
·
用于具有尖锐保证的凸和非凸正则化最小二乘的素描
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
该研究提出了一种名为Newton Sketch的随机化二阶优化方法，可用于近似牛顿步。该算法证明具有超线性收敛和指数高概率，与条件数和相关问题独立的收敛和复杂度保证。该方法可应用于多种问题，如线性程序、带凸约束的二次程序、逻辑回归和其他广义线性模型以及半定规划的扩展问题。
🎯
关键要点
- 该研究提出了一种名为Newton Sketch的随机化二阶优化方法。
- Newton Sketch使用随机投影或子采样Hessian实现近似牛顿步。
- 该算法对于自共轭函数具有超线性收敛和指数高概率的保证。
- 收敛和复杂度保证与条件数和相关问题独立。
- 在适当的初始化下，即使没有自共轭，也能保证强凸和光滑目标的类似保证。
- 方法可扩展到具有自共轭屏障的凸约束程序。
- 该方法适用于线性程序、带凸约束的二次程序、逻辑回归、其他广义线性模型及半定规划的扩展问题。
➡️
