学习调整 CLIP 的元特征以实现少样本分类的类别一致性

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

本研究提出了一种高效的微调方法,将经典算法高斯判别分析(GDA)应用于图像预训练模型CLIP的下游分类任务中。该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀,并可扩展到基于新类别的推理和无监督学习。

🎯

关键要点

  • 本研究提出了一种高效的微调方法,将高斯判别分析(GDA)应用于CLIP的下游分类任务。
  • 该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀。
  • GDA假设每个类别的特征服从具有相同协方差的高斯分布。
  • 通过将GDA与CLIP的原始零-shot分类器集成,融合视觉和文本模态的知识。
  • 在17个数据集上的实验结果显示,该方法超过或达到了最先进方法的效果。
  • 方法可扩展到基于新类别的推理和无监督学习,展示了其优越性。
  • 研究代码已在GitHub上公开可用。
➡️

继续阅读