遮蔽图像模型（MIM）与监督预训练模型的关键差异在于：MIM能在各层引入位置归纳偏差并保持多样性，在弱语义或细粒度分类中表现优异。研究提出注意力引导遮蔽、A²MIM、位置预测预训练、动态令牌变形、随机正交投影等改进方案，并探索与对比学习、监督训练的融合，在分类、检测、分割等下游任务中取得可比或更优性能。