AdvCLIP:多模态对比学习中与下游无关的对抗样本

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文提出了一种结合对比学习和自监督学习的基线模型,用于生成多模态表示。通过对比性损失和视觉自监督学习的损失函数,对齐图像和文本模态。同时,采用更有效的数据增广技术,提高了模型性能,在四个标准数据集上取得了最先进的性能。

🎯

关键要点

  • 提出了一种结合对比学习和自监督学习的基线模型。
  • 模型用于生成多模态表示。
  • 使用对比性损失和视觉自监督学习的损失函数对齐图像和文本模态。
  • 采用更有效的数据增广技术提高模型性能。
  • 在四个标准数据集上取得了最先进的性能。
➡️

继续阅读