本文综述视觉语言模型的位置信息建模研究，涵盖图像-文本匹配、指称理解与视觉常识推理等任务。提出位置预训练、交叉模态对比学习、PEVL显式位置建模、Griffon基准及ProbVLM不确定性评估等方法，提升定位敏感任务性能，并揭示模型偏重对象词、忽略全局语义的问题。

CoMAE是一种单模型自监督混合预训练框架，通过交叉模态对比学习和遮蔽图像建模来统一自监督表示学习算法。CoMAE在SUN RGB-D和NYUDv2数据集上的实验表明，其预训练模型具有与大规模和监督RGB数据集预训练方法相竞争的效果。