本文介绍了一种利用潜在知识检索器扩充语言模型预训练的方法，应用于开放域问答任务，取得良好效果。研究提出了M3-Embedding嵌入模型，支持多语言检索，具备多功能性和高效性，并通过专家路由器系统优化查询路由，提升查询效率和降低成本。

本文介绍了一种多任务学习的神经检索模型M3-Embedding，支持100多种语言，能够有效处理多种检索任务。该模型在多个基准测试中表现优异，采用自知识蒸馏方法提升训练质量，并提出的多跳密集检索方法在开放域问题上取得了先进性能，展示了强大的跨语言转移能力。

介绍了一种新的嵌入模型M3-Embedding，支持多语言和跨语言检索任务，能够处理不同粒度的输入，通过自知识蒸馏方法和优化批处理策略增强训练质量和嵌入的区分性。M3-Embedding是第一个实现如此通用性的嵌入模型。