BriefGPT - AI 论文速递
·
分布式非光滑非凸随机优化的一阶和零阶在线优化视角
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
本文研究了非光滑非凸目标在分散随机优化中找到稳定点的有限时间分析。提出了一种新算法ME-DOL，并在不同环境中建立了样本复杂性。证明了该算法在光滑非凸目标中恢复了最优收敛速度的在线至非凸技术，并扩展了分析到非光滑设置。在一阶设置中建立了样本复杂度O(δ^(-1)ε^(-3))，是对于分散非光滑非凸随机优化的有限时间保证。
🎯
关键要点
- 研究非光滑非凸目标在分散随机优化中找到($b4,b5$)-稳定点的有限时间分析。
- 提出了一种新算法ME-DOL，并在不同环境中建立样本复杂性。
- 证明该算法在光滑非凸目标中恢复最优收敛速度的在线至非凸技术。
- 扩展分析到非光滑设置，基于随机平滑和Goldstein-次微分集的属性。
- 在一阶设置中建立样本复杂度O(δ^(-1)ε^(-3))，为分散非光滑非凸随机优化提供有限时间保证。
- 首次在不使用方差减少的零阶预言机设置下证明相同的速率。
➡️
