基于幅值的神经元修剪用于后门防御
内容提要
本文提出了一种新的防御方法——重构神经元剪枝（RNP），通过非对称重构学习修剪神经网络中的后门节点。结合图神经网络和强化学习的优化神经元剪枝（ONP）方法，能够有效去除后门神经元，同时保持网络性能。研究表明，微调与剪枝结合可以有效削弱后门攻击，新提出的Shapley剪枝方法在数据不足时也能有效识别和修剪受攻击神经元，确保网络结构和精度。
延伸解读
后门防御的演进脉络
文章梳理了后门防御领域从2018年至2024年的多项研究，呈现出一条清晰的技术演进路径：早期工作证明单独剪枝或微调不足以防御复杂攻击，需结合使用；随后出现基于L∞范数的剪枝、对抗神经元剪枝（ANP）等方法；近期则涌现出结合图神经网络与强化学习的优化神经元剪枝（ONP）、利用Shapley值的Shapley Pruning，以及将后门缓解视为取消学习任务的新思路。这些方法共同指向一个趋势：在数据有限甚至无数据条件下实现高效防御。
数据稀缺下的防御挑战与对策
文章多次强调，许多现有防御方法需要大量数据才能有效缓解后门攻击，这给实际部署带来重大挑战。为此，研究者提出了多种应对策略：Shapley Pruning在每类仅1张图片甚至无数据时仍能识别并修剪受攻击神经元；基于取消学习的方法利用损失梯度定位后门元素，适合数据有限场景；还有方法仅需CIFAR-10的十个样本即可将攻击成功率降低超过50%，且运行速度比基准快三倍。这些进展表明，数据效率正成为后门防御的关键指标。
剪枝与微调的协同效应
文章指出，单独使用修剪或微调不足以防御复杂攻击，但将微调与剪枝结合可以成功削弱或消除后门攻击，仅略微降低网络对普通输入的准确率。这一发现为后续研究奠定了基础。在此基础上，ONP方法通过图神经网络和强化学习学习图嵌入并寻找适当剪枝策略，能在几乎无性能降级的情况下有效剪枝后门神经元；RNP则通过非对称重构学习暴露和修剪后门节点。这些方法都体现了“精准定位、最小损伤”的防御理念。
Q&A
重构神经元剪枝（RNP）是什么？
重构神经元剪枝（RNP）是一种通过非对称重构学习修剪神经网络中后门节点的新防御方法。
优化神经元剪枝（ONP）是如何工作的？
优化神经元剪枝（ONP）结合图神经网络和强化学习，通过学习图嵌入和剪枝策略来有效去除后门神经元。
微调与剪枝结合的效果如何？
微调与剪枝结合可以有效削弱后门攻击，仅略微降低网络对普通输入的准确率。
Shapley剪枝方法的优势是什么？
Shapley剪枝方法能够在数据不足时有效识别和修剪受攻击神经元，确保网络结构和精度。
后门攻击的防御措施为何重要？
后门攻击的防御措施对于确保机器学习模型的完整性和可靠性至关重要，现有方法往往需要大量数据。
现有的后门攻击防御方法存在哪些挑战？
许多现有的后门攻击防御方法要求大量数据以进行有效的缓解，这给实际部署带来了重大挑战。
