BriefGPT - AI 论文速递
·
训练无关 CLIP 基于适应的难以超越的基准线
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
这篇文章介绍了一种高效的微调方法，将经典算法高斯判别分析（GDA）应用于图像预训练模型CLIP的下游分类任务中。实验证明，这种方法在少样本分类、不平衡学习和超出分布泛化等方面表现出色，并且还可以用于基于新类别的推理和无监督学习。
🎯
关键要点
-
文章介绍了一种高效的微调方法，将高斯判别分析（GDA）应用于图像预训练模型CLIP的下游分类任务。
-
该方法在少样本分类、不平衡学习和超出分布泛化等方面表现出色。
-
GDA假设每个类别的特征服从具有相同协方差的高斯分布，通过贝叶斯公式进行分类。
-
将GDA与CLIP的原始零-shot分类器集成，以融合视觉和文本模态的知识。
-
在17个数据集上的实验表明，该方法的性能超过或达到了最先进的方法。
-
方法还扩展到基于新类别的推理和无监督学习，展示了其优越性。
-
相关代码已在GitHub上公开可用。
🏷️
标签
➡️
