ColBERT是一种基于深度语言模型的信息检索方法，近年来推出了多个版本，如ColBERTv2、ColBERT-X和ColBERTer，提升了检索效率和准确性。新模型ColBERT-XM通过零-shot学习实现多语言检索，减少对标记数据的依赖。此外，研究还提出了基于LLM的文档级嵌入框架，显著提高了检索模型的效果。

本文介绍了一种无需注释的可扩展伪查询文档训练方法，结合查询提取和生成，提升检索表现。研究开发了新型数据增强框架，利用多个预训练语言模型，显著提高了PrivacyQA基准测试的F1分数。同时，提出了基于大型语言模型的文档级嵌入框架，改进了检索模型的训练过程，并在多个数据集上取得了最新成果。