多块凸优化问题的原始-对偶梯度流动力学稳定性
原文中文,约300字,阅读约需1分钟。发表于: 。本研究解决了传统方法在多块凸优化中的稳定性问题,提出了一种基于近端增强拉格朗日方法的新动力学,作为ADMM的替代方案。在有效性方面,研究表明该方法在弱假设下能够实现全局(指数)收敛,从而对大规模优化问题提供了更系统的解决方案。
本文研究了分布式随机梯度上升下降(D-SGDA)算法的改进,通过算法稳定性方法,在凸凹和非凸非凹环境下对分布式最小最大算法的广义界限进行了改进。研究表明,分布式结构不会破坏D-SGDA的稳定性和广义化能力,在某些情况下可以实现和普通SGDA相同的广义化能力。进行了多项数值实验来验证理论发现。