TERD：一种统一的框架，用于保护扩散模型免受后门攻击
内容提要
本文提出了BadDiffusion攻击框架，针对扩散模型进行后门攻击，并探讨了风险缓解方案。研究展示了后门攻击对模型的影响及检测方法，提出了T2IShield防御方法，有效检测和定位后门样本，提升模型安全性。
延伸解读
后门攻击的演进与统一框架
文章梳理了扩散模型后门攻击的研究脉络：从2022年BadDiffusion首次实现攻击，到2023年BadT2I在像素、物体、风格三个语义层次进行实验，再到VillanDiffusion统一框架扩展分析范围。这些工作表明，攻击者可通过污染训练数据注入后门，且攻击效果在微调后仍能保持，凸显了扩散模型面临的安全威胁。
防御策略的多样化发展
针对后门攻击，研究者提出了多种防御方法。2023年11月，首个检测和清除框架能几乎百分之百检测后门并将效果降至接近零；2024年4月，UFID框架在输入层进行背景肃清检测；2024年7月，T2IShield通过交叉注意力图中的“同化现象”实现检测、定位和缓解，在低计算成本下达到88.9%的检测F1分数和86.4%的定位F1分数。
后门攻击的双重用途与检测价值
文章指出，后门攻击对扩散模型具有双向影响：一方面损害模型功能，另一方面可用于后门防御。例如，后门触发率增加有助于检测受污染的训练数据，研究后门效应对于设计反后门图像分类器也具有重要价值。这种双重用途为安全研究提供了新思路。
实际应用中的风险与应对
后门攻击可隐藏在文本到图像生成、图像编辑和修复等流程中，且触发器不可见，增强了隐蔽性和韧性。T2IShield等防御方法能有效检测和定位后门样本，并无效化99%的毒化样本。读者应关注模型训练数据的来源和完整性，并采用多层防御策略以降低风险。
Q&A
BadDiffusion攻击框架的主要功能是什么？
BadDiffusion攻击框架用于对扩散模型实施后门攻击，并探讨风险缓解方案。
T2IShield防御方法的主要特点是什么？
T2IShield能够检测、定位和缓解文本到图像传播模型中的后门攻击，具有高效的检测和定位能力。
扩散模型的后门攻击如何影响模型功能？
后门攻击通过污染训练数据影响扩散模型的功能，可能导致模型在特定条件下产生错误输出。
如何检测扩散模型中的后门样本？
可以通过提出的后门检测和清除框架，几乎百分之百地检测出后门样本。
VillanDiffusion框架的作用是什么？
VillanDiffusion框架用于扩展对扩散模型的后门分析，提供新的见解和分析方法。
UFID框架在背景肃清检测中表现如何？
UFID框架在检测效果和运行效率方面表现出卓越的性能，能够有效缓解背景肃清攻击的威胁。
