大型语言模型是低样本图像分类的良好触发器学习耠
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
本文介绍了一种软提示学习方法,用于Vision & Language模型,通过最小化软提示与手工工程提示之间的距离,提高模型性能,并能够训练虚拟类。该方法优于先前的软提示工作,并在大多数测试数据集上匹配和超越手工制作提示和CLIP的新类准确性。
🎯
关键要点
- 介绍了一种软提示学习的方法,用于 Vision & Language 模型。
- 通过使用第二交叉熵损失来最小化学习的软提示与手工工程提示之间的距离。
- 该方法提高了模型性能,并能够训练虚拟类。
- 在 11 个数据集上进行的广泛评估表明,该方法显著优于所有先前的软提示工作。
- 在大多数测试数据集上,该方法匹配和超越手工制作提示和 CLIP 的新类准确性。
➡️