本文研究联邦随机变分不等式优化。针对现有收敛速率与联邦凸优化最优界的差距,作者改进分析,使Local Extra SGD获得更紧保证;指出其客户端漂移缺陷,提出新算法LIPPAX,在多种设定下缓解漂移并提升收敛保证;最后将结果推广至联邦复合变分不等式。
FRAIN是一种新型的异步联邦学习方法,旨在解决数据异构性和更新陈旧性导致的性能下降问题。通过快速同步策略和球面线性插值技术,FRAIN有效整合客户更新,提升模型的稳定性和可靠性,尤其在恶劣环境下表现优于传统方法。研究表明,FRAIN在解决客户端漂移和提高收敛稳定性方面具有显著优势。
本研究提出了一种无参考的梯度修正方法——梯度集中联邦学习(GC-Fed),有效解决了高数据异质性下的客户端漂移问题,显著提升了训练稳定性和模型性能,精度最高可提高20%。
本研究提出FedBSS方法,针对联合学习中的数据异质性引起的客户端漂移问题,通过动态选择样本来缓解样本级异质性,从而提升模型训练的稳定性和性能。
本研究提出了一种新方法,解决组织学图像中的客户端漂移和灾难性遗忘问题,通过动态巴洛连续性评估客户端更新,显著提升模型性能。
该文汇总多项联邦学习研究,聚焦数据异构(非独立同分布、标签偏斜)引发的客户端漂移与泛化问题。所提方法包括:FedBalance以私有弱学习器集成纠正本地优化偏差;FedAlign用局部学习广泛性替代接近约束;FedCSD通过类原型相似度蒸馏缓解漂移与遗忘;FML支持个性化与通用模型协同设计;FedLC处理标签分布偏斜;FedHist以历史梯度加权融合应对异步滞后;FedCollab按数据分布距离与数量聚类客户端以减轻负迁移。
该文介绍了一种新的算法来解决复合联合学习问题,通过分离近端算子和通信来管理非光滑正则化,解决客户端漂移问题。该算法证明了线性收敛到最优解的邻域,并在数值实验中展示了相对于最先进的方法的优越性。
完成下面两步后,将自动完成登录并继续当前操作。