物理信号的对抗扰动
原文中文，约1100字，阅读约需3分钟。
📝
内容提要
该文综述物理对抗攻击研究，涵盖红绿灯贴纸攻击、检测器子网络、视频分类与时差估计攻击等，总结150篇论文，分析其特征、媒介、方法与效果，指出深度模型存在安全风险，并探讨挑战与未来方向。
🔎
延伸解读
物理对抗攻击的多样性与现实威胁
文章综述了多种物理对抗攻击，包括红绿灯贴纸、视频分类和视差估计攻击。这些攻击在真实场景中能达到高误分率，如红绿灯攻击在场地测试中误分率达84.8%，表明深度模型在物理世界面临实际安全风险。
检测与防御的探索
为应对对抗扰动，研究提出了检测器子网络和基于PCA的检测方法，能有效识别对抗样本。此外，对抗性数据增广被用于提升模型鲁棒性，且不影响整体准确性，为防御提供了可行方向。
攻击的迁移性与黑盒威胁
研究表明，即使没有内部知识，黑盒攻击也能生成对抗样本，且攻击模型具有可迁移性。这暴露了深度神经网络的弱点，意味着攻击者无需了解模型细节即可实施攻击，增加了安全防护的难度。
❓
Q&A
物理对抗攻击是什么？
物理对抗攻击是指对深度神经网络模型在物理世界中实施的对抗性扰动，例如通过黑白贴纸对真实红绿灯进行攻击，导致目标分类器误分类。
物理对抗攻击有哪些实际案例？
实际案例包括对红绿灯贴黑白贴纸，在实验室和场地测试中分别达到100%和84.8%的误分率；还有针对视频分类、视差估计等任务的攻击。
如何检测深度神经网络中的对抗扰动？
可以在深度神经网络中增加一个小的“检测器”子网络，用于区分含有对抗扰动的假数据和不含扰动的真数据，实现二元分类检测。
对抗扰动对视频分类系统有什么影响？
在实时视频分类系统中，利用生成对抗网络可以产生对抗样本，导致高达80%的有针对性活动误分类，且同一扰动可适用于视频剪辑中的每一帧。
物理对抗攻击的研究现状如何？
一项综述总结了150篇现有物理对抗攻击论文，详细分析了攻击的特征、媒介、方法及效果，并探讨了当前挑战和未来方向。
深度神经网络存在哪些安全风险？
深度神经网络容易受到对抗扰动攻击，即使没有内部知识，黑盒攻击也能制造对抗样本，导致误分类，暴露了其弱点。
🏷️
