通过综合知识蒸馏实现个性化联邦学习

该研究提出了一种无需原始数据的新方法，通过轻量级生成器集成用户信息以调控本地训练，提升了泛化能力。

FedGKD方法通过融合历史全局模型的知识进行本地训练，解决客户端漂移问题，实验结果优于其他五种方法。

提出了一种数据无关的知识蒸馏方法，通过生成器探索本地模型输入空间，提升模型性能，优于现有算法。

FedHKD算法通过知识蒸馏技术在服务器和客户端之间共享超知识，提高个性化联邦学习表现，超越现有方法。

Selective-FD机制通过客户端和服务器端选择器增强联邦学习框架的泛化能力，实验验证了其有效性。

FedD2S方法利用知识蒸馏和层丢弃机制加强本地模型个性化，解决客户端数据异质性挑战，表现卓越。

研究了关键超参数对FedD2S的影响，提供了最佳配置的见解，显示自适应层丢弃能增强个性化和性能。

综述了基于知识蒸馏的联邦学习现状，探讨隐私保护、数据异构性、通信效率和个性化等问题。

提出的主干自蒸馏方法实现知识有效转移，实验结果显示其在多个最新方法中表现优越。

针对客户端异质性问题，提出集成模型增量正则化和个性化模型的优化算法，显著提高准确性和快速收敛。

提出个性化联邦学习算法，结合本地微调模型与多个联邦模型，提升实时预测与模型微调性能。