具有拜占庭容错和证明快速收敛性的分散联邦策略梯度
内容提要
本文综述联邦学习中的拜占庭鲁棒优化研究，涵盖多任务联邦强化学习的分布式决策与收敛保证、差分隐私与拜占庭容错结合的算法、基于几何中位数的鲁棒聚合（恶意节点少于一半时实现线性收敛）、鲁棒线性赌博机算法、点对点分布式梯度下降的容错机制、边缘联邦学习面向重尾数据的优化与梯度压缩、区块链安全聚合模型，以及Byrd-SAGA等兼顾抗攻击与快速收敛的方法。
延伸解读
拜占庭容错与隐私保护的融合趋势
综述中多项工作尝试将差分隐私与拜占庭容错结合，例如2023年4月提出的算法同时使用差分隐私随机梯度下降和拜占庭容错机制，在保护隐私的同时抵抗攻击。2022年4月的线性赌博机研究也通过基于树的机制实现差分隐私，并证明对少于一半的代理进行拜占庭攻击具有鲁棒性。这表明隐私与安全并非孤立问题，联合设计正成为联邦学习鲁棒优化的重要方向。
几何中位数聚合的收敛保证与攻击阈值
基于几何中位数的鲁棒聚合是综述中的核心方法之一。2023年8月的工作证明，只要恶意攻击者比例低于一半，该方法可达到零最优间隔并呈线性收敛。Byrd-SAGA同样利用几何中位数，结合方差减小实现线性快速收敛。这些结果给出了明确的攻击容忍上限，但读者需注意，该阈值依赖于恶意节点少于半数的假设，实际部署中需评估该条件是否成立。
通信效率与鲁棒性的协同优化
边缘联邦学习场景下，2023年3月的研究同时关注重尾数据、拜占庭鲁棒性、通信效率和统计误差率，提出分布式梯度下降及结合梯度压缩的两种算法，理论分析表明在拜占庭设备存在时仍达到最优统计误差率。另一项工作通过梯度剪裁控制随机梯度差异以限制拜占庭工作者的危害，并结合通信压缩提高效率。这说明鲁棒性设计正与通信压缩等实用需求紧密结合。
区块链与分布式优化的安全增强
2023年10月的BRLF模型将区块链与联邦学习结合，解决资源消耗问题，并在公共数据集上验证安全聚合算法抗拜占庭攻击的优越性。点对点分布式梯度下降的容错机制（2021年1月）则针对非诚实代理，提出可应用于高维凸分布式优化的容错机制。这些工作从不同层面增强分布式学习的安全性，但区块链方案的实际开销和点对点机制的扩展性仍需结合具体场景评估。
Q&A
联邦学习里怎么同时实现差分隐私和拜占庭容错？
可以使用差分隐私随机梯度下降算法来保护隐私，并结合拜占庭容错算法，最终实现高精度并抵抗拜占庭攻击。
基于几何中位数的鲁棒聚合在什么条件下能线性收敛？
只要恶意攻击者的比例低于一半，该方法可以达到零最优间隔，并呈线性收敛性。
联邦线性赌博机如何抵抗拜占庭攻击并保护隐私？
提出一个具有鲁棒聚合神谕的新算法，证明对少于一半的代理进行拜占庭攻击是鲁棒的，并通过基于树的机制使算法具有差分隐私。
边缘联邦学习处理重尾数据时有哪些拜占庭鲁棒算法？
提出了两种算法：具有拜占庭鲁棒性的分布式梯度下降算法，以及结合梯度压缩技术的通信开销较小的算法。理论分析表明在存在拜占庭设备时实现了最优的统计误差率。
Byrd-SAGA 方法如何兼顾抗攻击和快速收敛？
Byrd-SAGA 基于几何中位数，通过减小随机梯度的方差来实现对抗攻击的鲁棒性和线性快速收敛性。实验表明相较于分布式 SGD 方法，具备更强的抗攻击性和更快的收敛速度。
点对点分布式梯度下降中如何应对非诚实代理？
研究了使用拜占庭容错处理方式解决点对点分布式梯度下降算法中非诚实代理引起的优化问题，提出了一种能够保证容错性的机制，并可应用于更高维度的凸分布式优化问题。
