FedMID：一种使用中间输出作为防御机制防止联邦学习中的中毒攻击的无数据方法
内容提要
本文探讨了联邦学习中的模型中毒攻击及其防御机制，提出了FedDefender和FreqFed等新方法，通过本地元更新和全局知识蒸馏提高鲁棒性，抵御恶意攻击。同时，研究了数据投毒攻击的漏洞，提出LearnDefend模型，有效检测和防范攻击，增强系统安全性。
延伸解读
防御机制的技术路线差异
文章汇总了多种联邦学习中毒防御方法，其技术路线各有侧重。FedDefender依赖本地元更新与全局知识蒸馏，FreqFed通过频域变换过滤恶意更新，LearnDefend则利用防御数据集估计客户端恶意概率。这些方法分别从更新修正、聚合过滤和检测排除等不同层面入手，反映了防御策略的多样性。
攻击与防御的演进关系
文章提及AT2FL方法可计算设备投毒策略，表明攻击方也在利用优化方法寻找漏洞。而防御方如STD-DAGMM针对自由骑手攻击、全局前k稀疏与梯度裁剪针对模型中毒，均是对特定攻击的响应。这种攻防交替演进意味着单一防御难以覆盖所有攻击类型，需结合多种机制。
实用部署的考量因素
部分防御方法强调实际可行性。例如，本地方案在协调节点执行，允许在算法收敛时进行缓解；LearnDefend对防御数据集的清洁样本大小和噪音具有鲁棒性。这些特性降低了部署门槛，但文章未涉及计算开销或通信成本，实际应用中需进一步评估。
Q&A
FedDefender是如何防御模型中毒攻击的？
FedDefender通过攻击容忍的本地元更新和全局知识蒸馏来提高鲁棒性，抵御模型中毒攻击。
FreqFed的聚合机制有什么特点？
FreqFed通过将模型更新转换到频域，有效过滤恶意攻击，保持模型聚合的实用性。
LearnDefend模型的主要功能是什么？
LearnDefend模型可以估计客户更新的恶意概率，并有效防范先进的攻击方法。
如何检测自由骑手攻击？
提出了一种新的高维异常检测方法STD-DAGMM，用于检测自由骑手攻击。
文章中提到的ATTack on Federated Learning (AT2FL)方法有什么作用？
AT2FL方法用于计算联邦机器学习中的设备投毒策略，帮助识别数据投毒攻击的漏洞。
如何减轻模型中毒攻击的影响？
可以使用全局前k更新稀疏和设备级别梯度裁剪来减轻模型中毒攻击。
