通过硬补丁挖掘引导掩蔽视觉建模

BriefGPT - AI 论文速递 ·

本文介绍了计算机视觉领域的新趋势：视觉Transformer和掩蔽的图像建模(MIM)。通过引入注意力引导掩蔽(AttMask)策略，证明其在基于蒸馏的MIM和分类记号的自监督学习上比随机掩蔽更有效。实验证明，AttMask加速了学习过程并提高了性能。

建模掩蔽的图像建模注意力引导掩蔽自监督学习补丁视觉Transformer 计算机视觉

原文中文，约400字，阅读约需1分钟。