MG-Skip:用于非光滑分布式优化的随机多八卦跳跃方法

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文介绍了一种基于概率局部更新的线性收敛方法MG-Skip,用于非平滑分布式优化。该方法无需额外条件对网络连接性能,可以跳过多轮“传闲话”通信,迭代复杂度为O(κ log(1/ε)),通信复杂度为O(√(κ/(1-ρ)) log(1/ε))。当损失函数具有平滑+非平滑复合形式时,MG-Skip实现了最佳的通信复杂度。

➡️

继续阅读