检测器崩溃：向目标检测注入后门，导致灾难性超载或盲目
内容提要
本文讨论了四种物体检测中的后门攻击方法，并提出了基于熵的检测框架“Detector Cleanse”。研究表明，后门攻击在多个数据集上的成功率超过92%，并探讨了其在现实场景中的应用及对目标检测算法的影响。
延伸解读
后门攻击的多样性与成功率
文章提出了四种针对物体检测的后门攻击：对象生成、区域误分类、全局误分类和对象消失。这些攻击在基准数据集上的成功率超过92%，而污染率仅为5%，表明攻击者只需极少量污染数据即可实现高效攻击。这种高效性使得后门威胁在实际应用中尤为危险，因为训练数据的微小污染可能难以察觉。
Detector Cleanse：基于熵的运行时检测
为了应对后门攻击，作者提出了Detector Cleanse框架，利用熵来识别被污染的测试样本。该框架可在运行时检测任何已部署的物体检测器，为防御后门攻击提供了一种实用手段。然而，文章未详细说明其检测精度和计算开销，实际部署时需权衡检测效果与性能影响。
现实世界中的物理攻击可行性
研究不仅限于数字触发器，还探讨了物理场景下的攻击，如使用印刷海报和可穿戴衣服。通过可变大小触发器和恶意对抗训练，攻击者能够克服视点变化和距离干扰，提高现实世界攻击成功率。这警示我们，后门威胁已从数字空间延伸至物理世界，对自动驾驶等安全关键应用构成严重风险。
第三方资源与自监督学习中的风险
文章指出，使用第三方资源训练深度神经网络时容易引入后门威胁，尤其是在目标检测等关键应用中。此外，自监督学习场景下的对象检测也面临后门攻击风险，如对象变换攻击（SSL-OTA）。这提醒开发者在利用外部数据和预训练模型时需加强安全审查，并考虑后门威胁的防御措施。
Q&A
物体检测中的后门攻击有哪些类型？
物体检测中的后门攻击包括对象生成攻击、区域误分类攻击、全局误分类攻击和对象消失攻击。
Detector Cleanse框架的作用是什么？
Detector Cleanse是一个基于熵的运行时检测框架，用于识别被污染的物体检测测试样本。
后门攻击在物体检测中的成功率是多少？
后门攻击在多个数据集上的成功率超过92%，而污染率仅为5%。
使用第三方资源训练深度神经网络时会面临什么风险？
使用第三方资源训练深度神经网络时容易出现后门威胁，尤其对目标检测等关键应用造成威胁。
可变大小后门触发器的优势是什么？
可变大小后门触发器克服了视点和被攻击对象之间距离引起的干扰，提高了攻击的有效性。
研究中提到的恶意对抗训练方法有什么作用？
恶意对抗训练方法使后门对象检测器能够学习带有物理噪声的触发器特征，从而提高攻击成功率。
