基于知识蒸馏和量化的边缘设备统一异常检测方法
内容提要
本文介绍了一种多类别图像异常检测的新方法，包括基于向量量化的Transformer模型和无类别信息的统一检测方法。研究表明，Dinomaly框架在多个基准数据集上表现优异，而MINT-AD通过减少类间干扰提升检测效果。此外，提出的量化特征蒸馏方法在图像分类和目标检测中显示出更高的灵活性和有效性。
延伸解读
多类异常检测的演进脉络
文章梳理了多类图像异常检测的多个关键进展：从基于向量量化和原型导向的Transformer模型，到无类别信息的统一检测方法CADA，再到极简重建框架Dinomaly和减少类间干扰的MINT-AD。这些工作共同指向一个趋势：在统一模型中处理多类别异常检测，同时保持甚至超越类分离方法的性能。Dinomaly在MVTec-AD、VisA和Real-IAD上分别达到99.6%、98.7%和89.3%的AUROC，显示了纯Transformer结构的潜力。
量化与蒸馏的协同价值
量化特征蒸馏（QFD）通过先训练量化教师表示，再用知识蒸馏量化网络，在图像分类和目标检测任务上比现有量化方法更灵活有效。文章特别指出，这是首次将视觉变换器量化应用于目标检测和图像分割任务，并在MS-COCO上验证了ViT和Swin-Transformer的量化效果。这表明量化与蒸馏的结合不仅能压缩模型，还能拓展到更复杂的视觉任务，为边缘部署提供了新思路。
边缘部署的实践启示
文章提及的AQD方案采用全定点运算，在极低位宽下达到与全精度相当甚至更好的性能；自动异构量化方法则针对多网络推理流水线，旨在实现高精度、纳秒级推理和自动化部署。这些工作共同关注资源严格受限的场景，如CERN大型强子对撞机的事件选择，需要纳秒级推理并降低50倍资源消耗。对于边缘设备，这意味着量化技术需兼顾精度、速度和自动化，而QFD等方法的灵活性可能有助于平衡这些需求。
Q&A
什么是基于向量量化的Transformer模型？
基于向量量化的Transformer模型是一种用于多类别图像异常检测的模型，通过离散的原型恢复正常图像，并采用原型导向的最优传输方法进行异常评估。
Dinomaly框架的性能如何？
Dinomaly框架在多个基准数据集上取得了99.6%、98.7%和89.3%的AUROC，表现优于现有的多类异常检测方法。
MINT-AD是如何提升异常检测效果的？
MINT-AD通过减少类间干扰，利用多类别信息进行统一异常检测，从而提升了检测效果。
量化特征蒸馏方法的优势是什么？
量化特征蒸馏方法在图像分类和目标检测中表现出更高的灵活性和有效性，验证了其在实际部署中的潜力。
无类别信息的统一检测方法是如何实现的？
该方法通过Class-Agnostic Distribution Alignment (CADA)实现不同类别的异常分数分布匹配，从而进行统一检测。
该研究的实际应用场景有哪些？
该研究的技术可应用于需要高精度、低延迟推理的场景，如CERN大型强子对撞机的事件选择过程。
