CLIPPER:无初始猜测的稳健数据关联
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
本研究提出了一种高效的微调方法,将高斯判别分析(GDA)应用于图像预训练模型CLIP的下游分类任务中。该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀,并可扩展到基于新类别的推理和无监督学习。
🎯
关键要点
- 本研究提出了一种高效的微调方法,将高斯判别分析(GDA)应用于图像预训练模型CLIP的下游分类任务中。
- 该方法在少样本分类、不平衡学习和超出分布泛化等方面表现优秀。
- 微调方法可扩展到基于新类别的推理和无监督学习。
- 对比语言 - 图像预训练(CLIP)因其非凡的零 - shot 能力而受到广泛关注。
- 传统的微调方法需要额外的训练时间和计算资源,适用于资源有限的设备。
- 通过贝叶斯公式,GDA假设每个类别的特征服从具有相同协方差的高斯分布。
- 将GDA与CLIP的原始零 - shot 分类器集成,以融合视觉和文本模态的知识。
- 在17个数据集上的广泛实验表明,该方法在性能上超过或达到了最先进的方法。
- 研究代码已在GitHub上公开可用。
➡️