自主训练的掩蔽关注引导的掩蔽图像建模与噪音约束教师 (SMART) 用于医学图像分析

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文介绍了视觉Transformer和掩蔽的图像建模(MIM)的新趋势,提出了一种新的掩蔽策略,称为注意力引导掩蔽(AttMask),证明了它在密集的基于蒸馏的MIM以及分类记号的普通基于蒸馏的自监督学习上比随机掩蔽效果更好。

🏷️

标签

➡️

继续阅读