逻辑回归校准与特征对比：用于非独立同分布数据的鲁棒联邦学习
内容提要
本研究提出了联邦对抗训练（FAT）框架，以提高联邦学习模型对抗样本攻击的鲁棒性。通过对数准确性矫正策略解决数据分布问题，实验证明在多个数据集上表现优异。同时，研究了标签倾斜对训练稳定性的影响，提出Calibrated FAT方法以改善模型性能。
延伸解读
非独立同分布数据下的联邦对抗训练挑战
在联邦学习中，客户端数据通常非独立同分布，这会导致模型训练不稳定和性能下降。本文提出的FAT框架通过对抗训练提升鲁棒性，但非独立同分布问题依然存在。标签倾斜作为一种常见的非独立同分布形式，会引发非同类概率和异构本地模型，进而降低自然精度。因此，解决数据异质性是提升联邦对抗训练效果的关键。
Calibrated FAT的校准机制与作用
针对标签倾斜带来的训练不稳定性，Calibrated FAT方法通过自适应校准logits实现类平衡。这种方法旨在获得更好的收敛点和客户端之间均匀的本地模型，从而改善模型性能。校准logits可以纠正模型输出的偏差，使不同客户端的模型更加一致，最终提升全局模型的鲁棒性和自然精度。
实验评估与基准对比
在MNIST、Fashion-MNIST和CIFAR-10数据集上，FAT方法在自然精度和鲁棒精度方面与多个基准模型相比表现出竞争力。这些实验证明了FAT框架的有效性，同时也显示了Calibrated FAT在解决标签倾斜问题上的潜力。然而，实验仅限于这些数据集，未来需要更多样化的数据来验证泛化能力。
Q&A
什么是联邦对抗训练（FAT）？
联邦对抗训练（FAT）是一种提高联邦学习模型对抗样本攻击鲁棒性的框架。
如何解决非独立同分布的数据分布问题？
通过对数准确性矫正策略来解决非独立同分布的数据分布问题。
Calibrated FAT方法的主要目标是什么？
Calibrated FAT方法旨在通过自适应校准logits实现类平衡，以改善模型性能和训练稳定性。
FAT方法在数据集上的表现如何？
FAT方法在MNIST、Fashion-MNIST和CIFAR-10数据集上表现出竞争力，尤其在自然精度和鲁棒精度方面。
标签倾斜对训练稳定性有什么影响？
标签倾斜会导致训练不稳定性和自然精度降低，这是研究的一个重点。
FAT方法如何提高模型的鲁棒性？
FAT方法通过对抗训练和对数准确性矫正策略来提高模型的鲁棒性。
