异构开关：对联邦学习中系统导致的数据异质性进行特征化与控制
内容提要
FedShift 是一种新算法，旨在提高异构环境中联邦学习的训练速度和准确性。研究提出了 HeteroFL 框架，通过自适应分配子网络提升计算和通信效率，并通过 FedAlign 解决数据异构性问题，确保高精度而不增加计算开销。此外，研究关注群体公平性，提出减少偏见的框架。
延伸解读
异构性来源：系统与数据的双重挑战
文章指出联邦学习中的异构性不仅来自数据分布的非独立同分布，还源于客户端在计算和通信能力上的差异。这种双重异构性会拖慢训练速度并降低模型准确性。理解这一点有助于读者认识到，实际部署中需同时应对系统和数据层面的挑战，而非仅关注数据异构性。
HeteroFL：自适应子网络分配提升效率
针对计算和通信能力不同的客户端，HeteroFL框架通过自适应分配子网络来提升联邦学习的训练效率。文章提到在三个数据集上对三种模型架构进行了五个计算复杂性级别的评估，表明该方法能有效适应异构环境。这为资源受限的物联网设备参与联邦学习提供了可行方案。
FedAlign：不增加开销的数据异构性解决方案
FedAlign基于局部学习广泛性而非接近约束来解决数据异构性问题，能在不引入大量计算和内存开销的情况下达到与先进方法相当的精度。这对于资源有限的边缘设备尤为重要，意味着可以在不显著增加负担的前提下提升模型在异构数据上的表现。
群体公平性：减少偏见与性能平衡
文章提出了一个群体公平的联邦学习框架，利用平均条件概率计算跨领域群体重要性权重，并通过正则化技术最小化最差和最好表现群体之间的差异。同时采用阈值机制在减少偏见和群体表现下降之间取得平衡。这提醒读者，在追求准确性的同时，公平性也是联邦学习实际部署中不可忽视的维度。
Q&A
FedShift算法的主要目标是什么？
FedShift算法旨在提高异构环境中联邦学习的训练速度和模型的准确性。
HeteroFL框架是如何提升计算和通信效率的？
HeteroFL框架通过自适应分配子网络来提升计算和通信效率。
FedAlign解决了什么问题？
FedAlign解决了数据异构性问题，确保高精度而不增加计算开销。
研究如何关注群体公平性？
研究提出了减少偏见的框架，利用平均条件概率计算跨领域群体重要性权重。
如何确保公平决策能力？
通过正则化技术最小化最差和最好表现群体之间的差异，确保公平决策能力。
该研究的实证评估是基于哪些数据集？
实证评估基于公开基准数据集（如Femnist）和自己收集的数据集（如流量分类）。
