OpenCIL: 类增量学习中的超出分布检测基准
内容提要
深度神经网络在技术应用中受到不同分布样本的干扰。本文提出基于 ImageNet 和 Places365 的评估标准，区分内外部分布，并评估不同 ODD 检测技术的有效性。研究介绍了 OpenOOD v1.5，扩展了评估能力，提供全面的 OOD 检测基准。实验表明，知识蒸馏和 ViTs 模型在检测分布外实例方面表现优异。
延伸解读
评估标准如何影响OOD检测结论
文章指出，不同ODD检测技术的有效性取决于所选择的评估标准。基于ImageNet和Places365构建的评估标准，通过语义相似性划分内部分布和外部分布，并采用不同技术确定类别归属，从而得到性质各异的评估标准。这意味着，同一检测方法在不同标准下可能表现迥异，因此比较方法时必须明确评估标准，否则结论可能不具可比性。
OpenOOD v1.5的基准化价值
OpenOOD v1.5在v1基础上显著改进，旨在确保OOD检测方法评估的精确、标准化和用户友好。它扩展评估能力至大规模数据集，研究全谱OOD检测，并引入在线排行榜和易用评估器。这些功能为研究者提供了更稳健、全面的基准，有助于减少评估偏差，推动领域内方法的公平比较和可复现性。
知识蒸馏与ViTs的检测优势
实验表明，知识蒸馏能够一致提高分布外实例检测性能，而ViTs的子集比任何其他模型都能更好地检测出分布外实例。这提示在构建OOD检测系统时，可优先考虑结合知识蒸馏或采用ViT架构。但需注意，这些结论基于特定评估标准，实际应用中仍需结合具体数据和任务验证。
从静态到动态的OOD检测演进
文章提及连续自适应离群分布检测（CAOOD）设置，旨在开发能适应动态新分布且部署期间ID样本不足的模型。通过元离群学习（MOL），模型在训练中学习良好初始化，测试时通过少量适应快速调整。这反映了OOD检测从静态基准向动态现实场景的演进，对实际部署中的持续学习能力提出更高要求。
Q&A
什么是 OpenOOD v1.5？
OpenOOD v1.5 是对 OpenOOD v1 的显著改进，旨在提供精确、标准化和用户友好的 OOD 检测方法评估。
深度神经网络为何容易受到不同分布样本的干扰？
深度神经网络在训练时可能未能有效处理来自不同分布的样本，因此容易受到干扰。
如何评估 ODD 检测技术的有效性？
ODD 检测技术的有效性取决于所选择的评估标准，本文提出了基于 ImageNet 和 Places365 的评估标准。
知识蒸馏在 ODD 检测中有什么作用？
知识蒸馏能够一致提高分布外实例的检测性能，表现优异。
ViTs 模型在 ODD 检测中表现如何？
ViTs 模型在检测分布外实例方面表现优异，优于其他模型。
OpenOOD v1.5 有哪些新功能？
OpenOOD v1.5 引入了在线排行榜和易于使用的评估器等新功能，扩展了评估能力。
