本文介绍了多层语义对齐的视觉语言预训练方法（MVPTR），强调多模态学习的协同作用。提出了X$^2$-VLM模型，优化了图像文本和视频文本任务的性能，并提出了MMStar基准以评估视觉语言模型的多模态能力，解决了数据泄漏问题。通过SIMA框架和X-VILA模型，提升了视觉与语言的对齐性和跨模态理解能力。

本文探讨了多语言图像标题生成和检索的方法，利用CLIP等预训练模型在多样化数据集上取得了优越表现。研究表明，机器翻译和对比学习能有效提升多语言图像检索性能，尤其在低资源语言上表现突出。RankCLIP通过自我监督学习增强了图像与文本的对齐能力，推动了视觉语言预训练的发展。

本文探讨了多模态对比模型中的模态差距及其对比损失的影响，提出了改进的对比损失函数和新方法（如SoftCLIP、RankCLIP、Gentle-CLIP等），以提升模态间对齐和下游任务性能，尤其在零样本分类中表现突出。这些方法通过优化嵌入空间和引入自监督学习，推动了视觉语言预训练的发展。

本文介绍了SUPMER、MetaPrompter和MetaPrompting等基于元学习和提示调整的模型，旨在提升few-shot学习和零样本分类的性能。这些方法在多个任务上显著提高了模型的适应性和准确性，尤其在视觉语言预训练模型的微调中表现优异。

该文综述多项研究：利用UMLS知识图谱与大语言模型，通过对比学习、自蒸馏和权重平均提出BioLORD-2023，在MedSTS等任务上显著提升，并发布支持50多种语言的多语言模型；另介绍自我验证临床信息提取、多学科协作框架、医学图像分割、S³A零样本分类、MedEval基准及REAVL等视觉语言预训练方法。

该文汇总多项研究：视频对象状态变化（OSC）至关重要，VidOSC利用文本与视觉语言模型监督，无需人工标注，并提出开放世界基准HowToChange；OaSC实现零样本对象无关状态分类；NOC、Oscar等推进图像字幕与视觉语言预训练；此外还涉及Transformer视频识别、图像哈希、语音识别字幕及数据集等工作。

该文综述了图像字幕生成的多项研究：GRIT用纯Transformer融合区域与网格特征；GIT统一视觉语言任务并在12项基准领先；VC-GPT联接视觉编码器与语言解码器；VisualGPT利用预训练语言知识实现数据高效；ViTCAP用网格表示和概念令牌网络简化结构；XGPT实现跨模态生成预训练。

本文综述视觉语言预训练模型的跨模态语义对齐机制，指出现有模型主要对齐对象和视觉词，忽略全局语义，存在固定句式、无视语法流畅性等问题。多项研究提出改进方案：单通道架构实现全局、图块—令牌、概念多层次对齐；MVPTR实现多层语义对齐；SemVLP结合单双流对齐不同语义粒度；CL2CM实现跨语言迁移；多粒度框架用于医学图像；聚类表示学习等，提升细粒度对齐与数据效率。

利用多模态信息的视觉语言预训练（VLP）在自然领域的视觉识别和胸部 X 射线（CXR）的医学影像诊断方面取得了重大成功。UniChest是一个征服与分割的预训练框架，旨在充分利用多个源 CXRs 的协作优势，同时减少源异质性的负面影响。