用网络控制变量驯服联邦学习中的梯度方差
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
pFedBayes是一种新型个性化联合学习方法,采用贝叶斯变分推理来减轻模型过拟合的问题。该方法在满足客户端全局分布的KL散度的同时,通过平衡私有数据的构造误差来更新其本地分布参数。实验结果表明,该方法在MNIST、FMNIST和CIFAR-10上表现出色,比其他SOTA算法的结果更好。
🎯
关键要点
-
pFedBayes是一种新型个性化联合学习方法。
-
该方法采用贝叶斯变分推理来减轻模型过拟合的问题。
-
pFedBayes在满足客户端全局分布的KL散度的同时,平衡私有数据的构造误差。
-
理论分析说明了平均泛化误差的上界和收敛速度。
-
实验结果显示pFedBayes在个性化模型方面表现出色。
-
在非i.i.d.有限的数据下,pFedBayes在MNIST、FMNIST和CIFAR-10上分别比其他SOTA算法的结果更好,分别提高了1.25%、0.42%和11.71%。
➡️