通过自动神经分布约束来缓解后门问题
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
本文研究深度神经网络的后门攻击问题，提出了一种基于L∞规范的神经元修剪方法，能够有效降低攻击成功率超过50%。该方法无需调整DNN参数，运行速度快，能够检测带触发器的实例，提高分类准确度并减轻过拟合问题。
🔎
延伸解读
后门攻击的分布偏移特性
文章指出，后门攻击成功时，触发实例在内部层的激活分布会与干净实例产生差异。这一观察是所提方法的基础：通过逆向工程触发器来纠正分布变化，实现后门缓解。理解这一特性有助于读者把握防御思路的核心，即从内部激活层面检测和修正异常。
神经元修剪的高效性
基于L∞规范的神经元修剪方法无需调整DNN参数，运行速度比现有方法快三倍，且能降低攻击成功率超过50%。即使只有极小的干净数据集（如CIFAR-10的十个样本），也能保持模型性能。这为资源受限场景下的后门防御提供了实用选择。
检测与泛化增强
该方法能通过对被污染神经元的特征进行排名，有效检测带有触发器的测试实例，帮助及时发现恶意攻击。此外，后期训练基于最大边界的正则化方法缓解了过拟合，提高了攻击无关的泛化准确率。这些附加优势增强了防御的全面性。
❓
Q&A
什么是后门攻击问题？
后门攻击是指恶意攻击者通过植入特定触发器，使深度神经网络在特定情况下产生错误的输出。
该文提出了什么方法来缓解后门攻击？
文中提出了一种基于L∞规范的神经元修剪方法，能够有效降低后门攻击的成功率。
这种神经元修剪方法的优势是什么？
该方法无需调整DNN参数，运行速度比现有方法快三倍，并能显著提高分类准确度。
该方法在处理小数据集时表现如何？
即使在只有极小的干净数据集下，该方法也能显著降低攻击成功率超过50%。
后期训练如何帮助缓解过拟合问题？
后期训练基于最大边界的正则化方法有效缓解了过拟合问题，提高了泛化准确率。
该方法如何检测带触发器的实例？
通过对被污染神经元的特征进行排名，该方法能够有效检测带有触发器的测试实例。
🏷️
