本文介绍了针对分散优化问题的随机算法，包括DSBA、D-GET和PMGT-SVRG等。这些算法在非凸优化中表现出线性收敛性和高效性，适合大规模机器学习。同时，研究提出了新算法ME-DOL，并证明其在非光滑非凸目标中的有效性，建立了样本复杂度的理论保证。

本文提出了一系列递归割平面算法，解决受限内存下的可行性问题，适用于一阶凸优化。研究表明，随机算法在单位球上最小化凸函数时需要较高的内存或查询次数。此外，探讨了无梯度估计的梯度下降算法及其收敛性，并提出了高效的分散优化算法，以提高通信效率和用户隐私，适用于大规模训练。