利用神经激活先验的异常检测
内容提要
本文综述了基于神经元分析的分布外（OOD）检测方法，包括神经元激活覆盖度、Shapley值剪枝、脉冲数模式、神经平均差异及ReAct等技术。这些方法通过分析模型内部激活特征区分分布内外数据，在CIFAR和ImageNet等基准上显著降低误报率，提升检测性能与模型健壮性。
延伸解读
神经元激活分析为何成为OOD检测热点
文章综述的多种方法均围绕模型内部神经元激活展开，如NAC、LINe、脉冲数模式等。这反映出OOD检测正从依赖输出置信度转向挖掘隐藏层特征，因为内部激活能更细粒度地反映数据分布差异。这种思路在CIFAR和ImageNet等基准上显著降低了误报率，为提升模型鲁棒性提供了新方向。
后置检测方法的实用优势与代表技术
LINe、ReAct、神经平均差异等方法都属于后置OOD检测，即不修改原模型训练过程，仅利用已训练网络进行检测。这降低了部署成本，且ReAct在多个基准上将FPR95降低25.05%，神经平均差异则对输入增量或分布变化不敏感。对于实际应用，这类方法更易集成到现有系统中。
不同技术路线的互补性与选择考量
文章涵盖基于覆盖度、Shapley值剪枝、脉冲数模式、信息论转换、非参数最近邻等多种技术。它们各有侧重：有的无需OOD样本（如单类分类器），有的不施加分布假设（如最近邻距离），有的专注于目标检测场景。读者需根据任务约束（如是否允许访问OOD数据、计算开销）选择合适方法。
评估基准与性能提升的关键指标
多项研究在CIFAR-10、CIFAR-100和ImageNet上验证，常用指标为FPR95（误报率）。ReAct降低25.05%，非参数最近邻方法较Mahalanobis距离降低24.77%，表明这些技术能显著减少将OOD样本误判为内分布的情况。同时，部分方法强调不影响内分布检测性能，平衡检测与分类准确性。
Q&A
什么是神经元激活覆盖度（NAC）？它如何用于异常检测？
神经元激活覆盖度（NAC）是一种通过研究神经元行为来区分分布内（InD）和分布外（OOD）数据的概念。它打破了ResNet-50的FPR95记录，并提出了NAC标准以评估模型健壮性。
LINe方法是如何实现OOD检测的？它在哪些数据集上表现优异？
LINe（Leveraging Important Neurons）通过使用Shapley值剪枝和激活截断等方法实现后置OOD检测。在CIFAR-10、CIFAR-100和ImageNet测试数据上，它表现出比其他现有后置OOD检测方法更高的有效性。
ReAct技术如何降低神经网络在OOD数据上的误报率？
ReAct是一种简单有效的技术，用于减少神经网络在OOD数据上的过度自信。在多个基准数据集上，ReAct相较于此前最佳方法可以将误报率（FPR95）降低25.05%。
神经平均差异（Neural Mean Discrepancy）指标是什么？它有什么优势？
神经平均差异是一种通过研究模型激活平均值的变化来检测异常数据的指标。基于此提出的高效异常数据检测器，其计算神经平均值的方法不受限于原始输入数据的增量或分布的不同，性能出色。
基于脉冲数模式的OOD检测器有什么特点？
该检测器采用脉冲数模式来表征神经网络中隐藏层的内部激活，以检测输入实例是否属于训练数据的分布。其性能与相关方案相比具有竞争力，并且能够生成符合预期的相关性说明图。
非参数最近邻距离方法在OOD检测中有什么优势？
非参数最近邻距离方法不施加任何分布假设，因此具有更强的灵活性和普适性。在多个基准测试中证明了其有效性，并且相对强基线的Mahalanobis距离方法，显著降低了24.77%误报率（FPR@TPR95）。
