检索增强语言模型（RALM）通过结合外部检索信息提升大模型在问答、推理等任务上的性能。研究提出RRAML、In-Context RALM、RA-DIT等框架，并发现模型在科学推理中可能捏造证据。此外，有工作利用分阶段投机解码加速小批量推理，以及基于RAML的元学习方法改善低资源分类。