通过端到端标签修正应对联邦学习中的噪声客户端
内容提要
本文提出了针对联邦学习中标签噪声的解决方案,包括FedCorr、FedCNI和FedNoRo等框架,旨在提高模型在嘈杂标签环境下的鲁棒性和训练稳定性。实验结果表明,这些方法在多个数据集上表现优异,有效应对标签噪声和类别不平衡问题。
关键要点
-
提出了一种新的联邦学习方案,通过交换类别的中心来保持一致的决策边界,适用于带有噪声的标签。
-
FedCorr框架动态识别嘈杂客户端,基于样本损失纠正错误标签,增强训练稳定性。
-
本地自我正则化方法通过模型蒸馏提高噪声抵抗力,在Clothing1M数据集上表现优异。
-
FedCNI方法使用噪声鲁棒局部求解器和强健的全局聚合器,解决标签噪声和类别不平衡问题。
-
FedNoRo框架在医疗场景中应对分类不平衡和标签噪声,结合知识蒸馏和距离感知聚合函数。
-
提供标准化基准测试评估嘈杂标签影响,揭示联邦学习中的数据质量问题。
-
FedDiv通过全局噪声滤波器和预测一致性采样器提高训练稳定性,表现优于现有方法。
-
FedFixer使用个性化模型选择干净样本,解决标签噪声带来的挑战。
延伸问答
联邦学习中如何应对标签噪声问题?
可以通过FedCorr、FedCNI和FedNoRo等框架来应对标签噪声,这些方法提高了模型的鲁棒性和训练稳定性。
FedCorr框架的主要功能是什么?
FedCorr框架动态识别嘈杂客户端,基于样本损失纠正错误标签,从而增强训练的稳定性。
FedCNI方法如何解决类别不平衡问题?
FedCNI使用噪声鲁棒的局部求解器和强健的全局聚合器,专门针对标签噪声和类别不平衡进行优化。
在医疗场景中,FedNoRo框架的优势是什么?
FedNoRo框架结合知识蒸馏和距离感知聚合函数,有效应对医疗场景中的分类不平衡和标签噪声问题。
如何评估联邦学习中的嘈杂标签影响?
可以通过标准化基准测试来评估嘈杂标签的影响,这有助于研究人员探索数据质量问题。
FedDiv框架的创新点是什么?
FedDiv提出了全局噪声滤波器和基于预测一致性的采样器,以提高训练稳定性并解决噪声标签问题。