预训练模型引导的零样本对抗鲁棒性微调
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
传统迁移学习在有限数据和分布转变下效果有限。最近的CLIP模型在零样本推理和鲁棒性方面表现出色。提出了适用于CLIP的小样本微调方法,并在具有分布转变的基准数据集上评估。实验证明,少样本CLIP微调在准确性方面优于只有视觉的模型,为小样本学习应用提供了动力。
🎯
关键要点
-
传统迁移学习在有限数据和分布转变下效果有限。
-
最近的基础模型在分布转变下表现出色,具有零样本推理能力和鲁棒性。
-
提出了一种适用于CLIP的小样本微调方法。
-
在具有分布转变的基准数据集上进行了评估。
-
少样本CLIP微调在准确性方面优于只有视觉的模型。
-
为小样本学习应用提供了强有力的动机。
➡️