GP-FL: Model-Based Hessian Matrix Estimation for Second-Order Federated Learning
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种新的二阶联邦学习框架GP-FL,旨在降低通信成本。通过高斯过程建模黑塞矩阵,实验结果显示其在多个数据集上优于传统方法,具备线性-二次收敛速率。
🎯
关键要点
- 本研究提出了一种新的二阶联邦学习框架GP-FL,旨在降低通信成本。
- GP-FL通过高斯过程建模黑塞矩阵,直接从噪声局部梯度中估计全局黑塞矩阵。
- 实验结果显示GP-FL在多个数据集上优于传统的第一和第二阶FL方法。
- GP-FL展现出线性-二次收敛速率。
➡️