基于去相关性的自监督视觉表征学习用于作者识别

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

研究比较了多种自监督学习方法在手写验证任务中的表现。结果显示,基于ResNet的VAE在生成式方法中表现最佳,准确度为76.3%;使用VICReg微调的ResNet-18在对比式方法中表现最佳,准确度为78%。在下游任务中,预训练的VAE和VICReg相较于有监督的ResNet-18基准模型,准确度分别提高了6.7%和9%。

🎯

关键要点

  • 研究了自监督学习方法在手写验证任务中的表现。

  • 比较了生成式和对比式自监督学习方法以及有监督学习。

  • 基于ResNet的变分自动编码器(VAE)在生成式方法中表现最佳,准确度为76.3%。

  • 使用VICReg微调的ResNet-18在对比式方法中表现最佳,准确度为78%。

  • 预训练的VAE和VICReg在下游任务中相较于有监督的ResNet-18基准模型,准确度分别提高了6.7%和9%。

➡️

继续阅读