统一输入对计算机视觉中激活稀疏性和能耗延迟攻击的影响
内容提要
本文探讨了对抗攻击对神经网络的影响，特别是如何通过优化输入来最大化能源消耗和决策延迟。研究表明，深度模型易受攻击，并提出了防御策略和自适应高效方法以降低功耗。此外，介绍了适用于资源受限边缘设备的动态调整网络精确度和能源消耗的新技术。
延伸解读
对抗攻击如何推高能耗与延迟
文章指出，对抗攻击不仅能误导模型输出，还能通过优化输入来最大化神经网络的能源消耗和决策延迟。攻击者可以构造普适性对抗贴片，将其粘贴到任意图像上，从而增加模型的计算量和功耗。实验显示，在高效视觉转换器上，仅占图像面积8%的贴片即可将计算量推至最大限度。这提醒我们，在评估模型安全性时，除了准确率，还需关注能耗和延迟等硬件指标。
防御策略与自适应高效方法
针对能耗攻击，文章提到标准对抗性训练可以减少攻击成功率，但未来需要采用自适应高效的方法来降低深度模型功耗。同时，AdaptiveActivation技术通过超参数动态调整网络精确度和能源消耗，无需重新训练即可适应边缘设备的硬件约束，比基准技术减少10%到38%的内存。这些方案为资源受限场景提供了更灵活的权衡选项，但防御方法的强韧性仍需进一步研究。
稀疏性利用与脉冲网络防御
文章还探讨了激活稀疏性在加速和防御中的潜力。例如，通过稀疏训练诱导半结构化激活稀疏性，在ImageNet上ResNet18实现了1.25倍加速，精度仅降低1.1%。此外，低延迟深度脉冲神经网络可通过在输入层引入噪声来防御对抗攻击，仅需微调即可保持分类性能、时延和计算能耗。这些工作表明，稀疏性和脉冲机制既能提升效率，也可能增强模型鲁棒性。
Q&A
对抗攻击如何影响神经网络的能源消耗和决策延迟？
对抗攻击通过优化输入，可以最大化神经网络的能源消耗和决策延迟。
深度模型为何容易受到普适性对抗贴片攻击？
深度模型容易受到普适性对抗贴片攻击，因为攻击者可以通过粘贴小贴片来增加计算量和功耗。
AdaptiveActivation技术的主要功能是什么？
AdaptiveActivation技术通过动态调整深度神经网络的精确度和能源消耗，以适应资源受限的边缘设备。
如何通过标准对抗性训练减少攻击成功率？
标准对抗性训练可以通过增强模型的鲁棒性来减少对抗攻击的成功率。
低延迟深度脉冲神经网络如何防御对抗攻击？
低延迟深度脉冲神经网络通过在输入层引入噪声来防御对抗攻击，同时保持良好的分类性能和计算能耗。
在资源受限的边缘设备上，如何优化深度模型的性能？
可以通过引入超参数动态调整深度模型的精确度和能源消耗，以优化性能。
