FedDEO:基于扩散模型的增强描述的一次性联邦学习

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

FedDM是专为联邦训练扩散模型设计的训练框架,使用U-Net架构和量化模块,保持高生成质量并提高通信效率和模型收敛性。在非独立同分布的数据设置中,可能导致FID分数增加。

🎯

关键要点

  • FedDM是专为联邦训练扩散模型设计的训练框架。
  • 理论分析证明了扩散模型在联邦环境中训练的收敛性。
  • 提出了达到收敛性所需的具体条件。
  • 使用U-Net架构作为扩散模型的基础。
  • 算法包括FedDM-vanilla、FedDM-prox和FedDM-quant。
  • FedDM-vanilla处理客户端之间的数据异构性。
  • FedDM-quant引入量化模块以增强通信效率。
  • 在多个数据集上评估算法,保持高生成质量。
  • 量化更新和局部训练目标显著提高通信效率和模型收敛性。
  • 在非独立同分布的数据设置中,FID分数可能增加。
➡️

继续阅读