研究统计异质性下视网膜光相干断层扫描图像分类的联邦学习算法
内容提要
该文综述联邦学习应对数据异构性的多种方法，包括FedProx、FedClassAvg、Per-FedAvg、FedProc、FedIIC、FedAlign、FedProto等框架，分别通过原型对比、分类器聚合、局部学习等策略提升非独立同分布数据下的模型性能与通信效率，并探讨隐私与精度的权衡。
延伸解读
联邦学习应对数据异质性的方法概览
文章综述了多种联邦学习框架，如FedProx、FedClassAvg、Per-FedAvg、FedProc、FedIIC、FedAlign和FedProto，这些方法分别通过原型对比、分类器聚合、局部学习等策略，提升非独立同分布数据下的模型性能与通信效率。这些方法各有侧重，但共同目标是缓解数据异质性带来的挑战。
隐私与精度的权衡
文章提到，联邦学习在物联网网络中具有高效和保护隐私的机器学习潜力，但隐私和准确性之间存在权衡关系。通过模拟研究，作者探讨了这种权衡，提示在实际应用中需要根据需求平衡隐私保护与模型性能。
数据异质性的双面性
一项研究发现，数据异质性不一定是问题，反而可能对联邦学习参与者有益。这挑战了传统观点，表明在某些设置下，异质性可以促进模型泛化。但文章也指出，许多先前方法未深入探讨不同类型异质性对客户端准确性的具体影响。
Q&A
联邦学习在处理非独立同分布数据时面临哪些主要挑战？
非独立同分布数据会导致模型收敛不稳定、客户端偏差以及决策边界不均衡，从而影响全局模型的性能和公平性。
FedProx 框架是如何解决联邦学习中的异构性问题的？
FedProx 通过引入近端项来限制本地模型与全局模型的偏差，从而提供更稳健的收敛保证，并有效处理数据异构性。
FedClassAvg 在个性化联邦学习中有哪些优势？
FedClassAvg 通过聚合分类器权重增强决策边界，支持不同神经网络架构的客户端学习稀缺标签，同时仅需通信少量全连接层，具有高通信效率，且无需额外优化开销，在异构性任务上优于现有算法。
Per-FedAvg 与 FedAvg 在非独立同分布数据下的性能有何差异？
在高异质性条件下，Per-FedAvg 比 FedAvg 表现出更强的健壮性，而数据异质性水平显著影响两种策略的性能。
FedProto 框架的核心思想是什么？
FedProto 利用全局原型而不是梯度来弥补跨客户端的异质性，从而提高局部模型的性能。
FedIIC 如何缓解联邦学习中的训练偏差？
FedIIC 通过类内对比学习和共享全局样本的类间对比学习来校准特征提取器，并使用考虑难度的逻辑调整构造 softmax 交叉熵损失，以确保所有类别的平衡决策边界。
