GP-FL: Model-Based Hessian Matrix Estimation for Second-Order Federated Learning

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种新的二阶联邦学习框架GP-FL,旨在降低通信成本。通过高斯过程建模黑塞矩阵,实验结果显示其在多个数据集上优于传统方法,具备线性-二次收敛速率。

🎯

关键要点

  • 本研究提出了一种新的二阶联邦学习框架GP-FL,旨在降低通信成本。
  • GP-FL通过高斯过程建模黑塞矩阵,直接从噪声局部梯度中估计全局黑塞矩阵。
  • 实验结果显示GP-FL在多个数据集上优于传统的第一和第二阶FL方法。
  • GP-FL展现出线性-二次收敛速率。
➡️

继续阅读