一种低成本的策略性监控方法，用于深度神经网络中的可扩展和可解释的错误检测

我们提出了一种高度紧凑的运行时监控方法，用于从仅有少量（甚至仅两个）隐藏层中提取选择性知识，并能有效地检测来自硬件内存和输入故障的静默数据损坏。该方法通过 strategically placed quantile markers 在受影响的网络层的激活分布中准确估计当前推断的异常情况，从而实现对正常和异常行为的可解释性分类。该技术在检测上实现了高达 96% 的精确度和 98% 的召回率，并且与最先进的异常检测技术相比，它需要最小的计算开销（仅为非监督推断时间的 0.3%）并有助于模型的可解释性。