对抗训练提高模型韧性但成本高,随机平滑和形式验证有局限。投毒攻击影响性能,需要数据清洗和鲁棒性训练。隐私攻击威胁用户隐私,差分隐私提供保护但影响准确性。模型提取攻击需防范,设计安全AI系统仍需努力。
该文综述联邦学习中的安全威胁研究,涵盖基于对抗图自编码器的模型污染攻击(可绕过现有防御)、针对联邦GAN的后门攻击(少量触发器即可破坏模型,并提出全局恶意检测与局部训练正则化防御),以及FedDetect防御、定向数据毒化、BadVFL无标签后门攻击、Graph-Fraudster攻击、AT2FL投毒优化和生成模型数据中毒等方法。
该文综述联邦学习中的投毒攻击与防御研究:FedRecover利用历史信息恢复全局模型,FLDetector基于历史更新检测恶意客户端,FLCert用集成学习实现可证明安全,FLTracer可追踪攻击并鲁棒检测,FreqFed在频域过滤恶意更新;另有研究探讨NextG分布式学习中的主动防御及数据无关的图自编码器攻击,表明防御仍需加强。
FedQV是一种新的聚合算法,用于增强联邦学习对投毒攻击的鲁棒性,并结合隐私保护机制。
完成下面两步后,将自动完成登录并继续当前操作。