分布式学习算法性能评估研究

分布式学习是一种实际的方法，用于从分散的数据中训练模型。分布式学习算法（如 FedAvg、FedProx、FedYogi、FedAdam、SCAFFOLD 和 FedDyn）的综合性能评估揭示了单一算法在不同性能指标上表现并不最佳，同时也存在诸如计算负载、通信负载、性能稳定性等方面的问题。

该论文研究了联邦学习算法的效果，发现完全分散的算法在多个操作条件下准确性高，但在极度偏斜的数据分布下影响较大。研究表明多节点操作可能比单一算法更有效。

准确性 多节点操作 完全分散算法 极度偏斜的数据分布 算法 联邦学习算法