学习可转移的负提示用于超出分布检测

💡 原文中文,约1600字,阅读约需4分钟。
📝

内容提要

本文介绍了多种新方法以提高外部分布(OOD)样本检测性能,包括LoCoOp、ODPC和NegLabel等。这些方法在真实世界数据集上表现优异,特别是在少样本学习和异常值检测方面,显著提升了检测的准确性和鲁棒性。通过对比损失和负向提示等技术,研究者们在多个基准测试中取得了最先进的结果。

🔎

延伸解读

方法演进与核心思路

文章梳理了OOD检测领域的多项进展,从LoCoOp利用CLIP局部特征作为OOD特征,到ODPC通过大语言模型生成ID语义的OOD对等类,再到NegLabel利用大量负标签设计得分方案。这些方法共同指向一个趋势:借助视觉语言模型的语义空间,通过对比学习或提示优化,更精细地刻画ID与OOD的边界,从而提升检测性能。

性能提升与基准表现

在ImageNet-1k的4样本OOD检测中,新方法将平均FPR95降低了12.16%,平均AUROC提高了2.76%。LoCoOp在ImageNet OOD基准上表现优越,ODPC在五个基准数据集上取得最先进结果,NegLabel也在多种视觉语言模型中展现出良好的泛化性和鲁棒性。这些数据表明,结合负向提示和对比损失能显著提升少样本场景下的检测准确性。

跨领域应用与扩展

除了图像OOD检测,相关技术还被应用于虚假新闻检测。DPOD框架利用领域特定提示调整,结合图像与文本标题的特征对齐,在NewsClippings数据集上显著超越现有方法。此外,负向提示优化也被用于提升图像生成质量,在万能评分上提高了25%。这些扩展显示了负向提示和对比学习在跨模态任务中的潜力。

❓

Q&A

LoCoOp 方法是如何提高 OOD 检测性能的?

LoCoOp 方法通过本地正则化优化,利用 CLIP 的局部特征作为 OOD 特征,展示了在 ImageNet OOD 检测中的优越性。

NegLabel 方法的主要创新点是什么?

NegLabel 方法利用大量负标签和 OOD 得分方案,取得了最先进的 OOD 检测性能,并展示了良好的泛化能力。

ODPC 方法是如何改善 ID 类别表示的?

ODPC 方法通过生成特定提示词,改善 ID 类别表示和类别界限清晰度,采用基于 OOD 对等类的对比损失进行学习。

如何利用 SupCon 学习表征来处理 OOD 数据?

SupCon 学习表征通过增加对比项,将辅助 OOD 表征与 ID 表征分开,并将 OOD 特征远离现有类原型,从而学习稳健的 OOD 分类器。

本文提出的 DPOD 框架有什么应用?

DPOD 框架旨在利用领域外数据改进虚假新闻检测,通过特征对齐和领域特定提示学习技术,取得了显著的性能提升。

这些方法在真实世界数据集上的表现如何?

这些方法在真实世界数据集上表现优异,特别是在少样本学习和异常值检测方面,显著提升了检测的准确性和鲁棒性。

🏷️

标签

➡️

继续阅读