本文研究了联邦优化在随机变分不等式(VIs)中的应用,提出了改进的收敛速率。分析经典Local Extra SGD算法时发现其存在客户漂移问题,因此提出了新算法LIPPAX,有效减轻客户漂移并在多种情况下实现更好的收敛保证。此外,结果还扩展到联邦复合变分不等式,提供了改进的收敛保证。
联邦优化面向数据分布不均且节点众多的场景,利用本地移动设备参与计算以更新全局模型,并提出新算法,实验表现优异。相关研究还涵盖降低分布式训练的通信成本、凸学习中通信效率的根本限制、通过图分割降低通信成本、网络感知优化、异步优化综述,以及分割学习与联合学习的通信效率比较。
本文研究了混合异构性对联邦优化的影响,并提出了一种新型基于梯度的优化器FedAWARE,可以提升联邦学习的性能。经实验证明,该优化器在异构联邦设置中表现显著。
完成下面两步后,将自动完成登录并继续当前操作。