基于去相关性的自监督视觉表征学习用于作者识别
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
研究比较了多种自监督学习方法在手写验证任务中的表现。结果显示,基于ResNet的VAE在生成式方法中表现最佳,准确度为76.3%;使用VICReg微调的ResNet-18在对比式方法中表现最佳,准确度为78%。在下游任务中,预训练的VAE和VICReg相较于有监督的ResNet-18基准模型,准确度分别提高了6.7%和9%。
🎯
关键要点
-
研究了自监督学习方法在手写验证任务中的表现。
-
比较了生成式和对比式自监督学习方法以及有监督学习。
-
基于ResNet的变分自动编码器(VAE)在生成式方法中表现最佳,准确度为76.3%。
-
使用VICReg微调的ResNet-18在对比式方法中表现最佳,准确度为78%。
-
预训练的VAE和VICReg在下游任务中相较于有监督的ResNet-18基准模型,准确度分别提高了6.7%和9%。
➡️