FedFixer：减轻联邦学习中的异构标签噪声
内容提要
本文介绍了针对联邦学习中标签噪声和数据异质性问题的框架，如 FedCorr、FedCNI 和 FedNoRo。这些方法通过动态识别噪声客户端、使用鲁棒聚合和伪标签等技术，提高了模型的准确性和稳定性，特别是在医疗和药物发现等领域表现突出。
延伸解读
标签噪声对联邦学习的影响
文章指出，标签噪声会导致全局模型的准确度线性下降、训练收敛速度变慢且容易过拟合。这一发现基于在MNIST和CIFAR-10数据集上的实验和理论分析，强调了在联邦学习环境中处理标签噪声的必要性。
应对标签噪声的主要技术路线
文章介绍了多种技术，包括动态识别噪声客户端、鲁棒聚合、伪标签、知识蒸馏和分布式鲁棒优化等。这些方法从不同角度提升模型对异构标签噪声的鲁棒性，例如FedCorr通过多阶段框架纠正错误标签，FedCNI结合噪声鲁棒局部求解器和强健全局聚合器。
医疗与药物发现领域的应用
FedNoRo框架针对医疗场景中的分类不平衡和标签噪声异质性问题，使用高斯混合模型识别噪声客户端，并结合知识蒸馏进行模型更新。通用框架则通过分布式鲁棒优化和混合技术，在多个药物发现任务中验证了有效性。
Q&A
FedCorr框架是如何提高联邦学习的稳定性的？
FedCorr框架通过动态识别嘈杂客户端和纠正错误标签，增加自适应局部近端正则化项来应对数据异构性，从而提高训练稳定性。
FedCNI方法解决了哪些问题？
FedCNI方法通过噪声鲁棒局部求解器和强健的全局聚合器，解决了标签噪声和类别不平衡的问题。
FLR策略是如何改善模型的准确性的？
FLR策略通过生成伪标签并结合本地与全局模型的预测，来提高全局模型的准确性并防止记忆嘈杂标签。
FedNoRo框架在医疗场景中的应用效果如何？
FedNoRo框架在医疗场景中通过高斯混合模型识别噪声客户端，结合知识蒸馏进行模型更新，表现优于现有研究。
FedBalance方法是如何提高少数类别的分类性能的？
FedBalance方法通过引入私有弱学习器，改进本地模型的优化方向，从而提高少数类别的分类性能。
这些框架在药物发现任务中的表现如何？
这些框架通过分布式鲁棒优化和混合技术，在多个药物发现任务中表现出色，解决了数据异质性和噪声问题。
