减小自适应无偏客户抽样的方差以探索联邦优化

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文介绍了一种名为pFedBayes的新型个性化联合学习方法,采用贝叶斯变分推理来减轻模型过拟合的问题,并通过平衡私有数据的构造误差来更新其本地分布参数。实验结果表明,该方法在个性化模型方面表现出色,在MNIST、FMNIST和CIFAR-10上分别比其他SOTA算法的结果更好,分别提高了1.25%、0.42%和11.71%。

🎯

关键要点

  • 提出了一种名为pFedBayes的新型个性化联合学习方法。

  • 采用贝叶斯变分推理来减轻模型过拟合的问题。

  • 通过引入权重不确定性,更新本地分布参数以平衡私有数据的构造误差。

  • 理论分析说明了平均泛化误差的上界和收敛速度。

  • 实验结果显示pFedBayes在个性化模型方面表现出色。

  • 在MNIST、FMNIST和CIFAR-10上,pFedBayes分别比其他SOTA算法提高了1.25%、0.42%和11.71%。

➡️

继续阅读