本文介绍了MoMA机制，通过检索多个信息语料库来改善语言模型的零样本泛化能力。使用MoMA增强的T5-based retriever模型在BEIR基准测试中获得了强的零样本检索准确性。MoMA利用插入式存储器在推理时不改变其参数。