坏合并：针对模型合并的后门攻击
内容提要
该论文提出了BackdoorBench基准测试，用于评估多种后门攻击和防御算法。研究表明，分割学习对后门攻击具有强抗性，并提出了新的防御方法，如共享对抗消除和BadEdit攻击框架，以提高机器学习模型的安全性和可靠性。
延伸解读
后门攻防的基准测试：BackdoorBench
BackdoorBench 集成了8种攻击和9种防御算法，在5个模型和4个数据集上进行了8000次组合评估。这一基准为后门学习研究提供了标准化平台，使不同方法能在统一条件下比较，有助于识别影响后门攻击与防御效果的关键因素，推动更稳健的防御策略发展。
分割学习对后门攻击的强抗性
研究表明，尽管攻击者在服务器端注入强触发器，分割学习仍表现出高度抗性。这提示在分布式机器学习场景中，分割学习可能是一种更安全的架构选择，但实际部署时仍需结合其他防御手段，以应对不断演变的攻击方式。
模型合并修复后门漏洞的潜力
将带后门模型与其他同类模型合并，可有效修复后门漏洞，即使这些模型并非完全安全。该方法使攻击成功率降低75%，并能持续优于其他先进基准。这为后门防御提供了新思路，但合并策略的普适性和长期稳定性仍需进一步验证。
数据有限场景下的后门缓解新方法
针对现有防御方法依赖大量数据的问题，研究者提出将后门缓解视为取消学习任务，通过模型修剪和取消学习损失梯度来消除后门元素。该方法简单有效，特别适合数据有限的现实场景，为后门防御的实际部署提供了可行方案。
Q&A
什么是BackdoorBench基准测试？
BackdoorBench是一个综合性基准测试，包含8个攻击和9个防御算法，进行了8000个组合评估。
分割学习对后门攻击的抗性如何？
研究表明，分割学习对后门攻击具有强抗性，即使在使用强模式和注入方法的情况下。
共享对抗消除方法(SAU)的作用是什么？
共享对抗消除方法通过生成共享对抗示例来减轻后门效应，提升防御性能。
BadEdit攻击框架的优势是什么？
BadEdit攻击框架通过改变LLM参数引入后门，具有在多个注入技术方面的优越性。
如何将后门攻击缓解视为取消学习任务？
将后门攻击缓解视为取消学习任务的方法通过有针对性的模型修剪策略来识别和消除模型中的后门元素。
背后专家模型的功能是什么？
背后专家模型能够有效减轻多种后门攻击，通过反向工程从感染模型中提取功能。
