本研究提出了一种Δ-影响方法,通过影响函数追踪并剔除受污染的训练数据。实验结果表明,该方法在多种攻击场景下优于现有的消除方法,有效应对数据毒化问题。
本文研究了联邦学习中的本地模型污染攻击,提出了两种防御方法,并介绍了新的聚合规则Bulyan,以增强分布式学习的鲁棒性。此外,提出了基于中位数的算法以提高通信效率,并探讨了数据毒化攻击的防御策略。
该文综述大语言模型后门攻击与防御研究,涵盖自动插入样式触发器、毒素选择、REACT防御、基于LoRA的LoRB提升语音识别效率、DUBA时频双隐蔽攻击、TFLexAttack免训练注入词汇触发器、CBA分散触发词增强隐蔽性、MDP等防御检测污染样本,以及仅需1%数据即可毒化模型。
完成下面两步后,将自动完成登录并继续当前操作。