从预文本到目的:批自适应自监督学习

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文研究自我监督对比学习中的两个关键因素:批大小和预设任务,并提出了一种自适应的批融合技术,通过降维和重构批数据,增强自我监督特征编码能力。实证结果表明该方法在 ImageNet-1k 上实现了最先进的性能,在 ImageNet-100 上相对于原始性能提高了最多1.25%。该方法可能有助于数据驱动的自我监督学习研究的进展,并为该领域带来新的视角。

🏷️

标签

➡️

继续阅读