BriefGPT - AI 论文速递
·
细粒度场景图像分类的模态不可知适配器
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
本文介绍了MetaMAE，一种通过元学习和任务对比学习来提高不同模态下Masked Auto-Encoder（MAE）性能的自监督学习框架。实验证明MetaMAE在自监督学习基准中表现优秀。
🎯
关键要点
- MetaMAE是一种自监督学习框架，通过元学习和任务对比学习提高MAE性能。
- MetaMAE将MAE的掩码重构视为元学习任务，利用未掩码标记的变换器进行预测。
- 该框架集成了基于梯度的元学习和任务对比学习两种技术。
- 基于梯度的元学习用于适应变换器编码器的平均潜在因素以增强重构。
- 任务对比学习最大化平均化和适应化潜在因素之间的对齐，指导编码器编码任务特定知识。
- 实验结果表明，MetaMAE在自监督学习基准DABS中表现优越，明显优于之前的基线。
➡️
