用网络控制变量驯服联邦学习中的梯度方差

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

pFedBayes是一种新型个性化联合学习方法,采用贝叶斯变分推理来减轻模型过拟合的问题。该方法在满足客户端全局分布的KL散度的同时,通过平衡私有数据的构造误差来更新其本地分布参数。实验结果表明,该方法在MNIST、FMNIST和CIFAR-10上表现出色,比其他SOTA算法的结果更好。

🎯

关键要点

  • pFedBayes是一种新型个性化联合学习方法。

  • 该方法采用贝叶斯变分推理来减轻模型过拟合的问题。

  • pFedBayes在满足客户端全局分布的KL散度的同时,平衡私有数据的构造误差。

  • 理论分析说明了平均泛化误差的上界和收敛速度。

  • 实验结果显示pFedBayes在个性化模型方面表现出色。

  • 在非i.i.d.有限的数据下,pFedBayes在MNIST、FMNIST和CIFAR-10上分别比其他SOTA算法的结果更好,分别提高了1.25%、0.42%和11.71%。

➡️

继续阅读