CLIPPER:无初始猜测的稳健数据关联

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

本研究提出了一种高效的微调方法,将高斯判别分析(GDA)应用于图像预训练模型CLIP的下游分类任务中。该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀,并可扩展到基于新类别的推理和无监督学习。

🎯

关键要点

  • 本研究提出了一种高效的微调方法,将高斯判别分析(GDA)应用于图像预训练模型CLIP的下游分类任务中。
  • 该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀。
  • 微调方法可扩展到基于新类别的推理和无监督学习。
  • 对比语言 - 图像预训练(CLIP)因其非凡的零 - shot 能力而受到广泛关注。
  • 传统的微调方法需要额外的训练时间和计算资源,适用于资源有限的设备。
  • 通过贝叶斯公式,GDA假设每个类别的特征服从具有相同协方差的高斯分布。
  • 将GDA与CLIP的原始零 - shot 分类器集成,以融合视觉和文本模态的知识。
  • 在17个数据集上的广泛实验表明,该方法在性能上超过或达到了最先进的方法。
  • 研究代码已在GitHub上公开可用。
➡️

继续阅读