交替更新在极小极大优化中的基本收益

📝

内容提要

梯度下降上升(GDA)算法用于解决极小极大优化问题,采用同时(Sim-GDA)或交替(Alt-GDA)的下降和上升步骤。我们对 Alt-GDA 和 Sim-GDA 进行了细致的收敛性分析,发现 Alt-GDA 的迭代复杂度上界严格小于 Sim-GDA 的下界,即 Alt-GDA 可证明更快速。此外,我们提出了交替外推 GDA(Alex-GDA),这是一个通用的算法框架,包含了...

➡️

继续阅读