该研究比较了双编码器与稀疏词袋模型和注意力神经网络的检索能力。研究发现双编码器在编码维数、金标和排名较低文件之间的边际以及文档长度方面存在限制。研究提出了一种结合了双编码器和注意力结构的简单神经模型，并探索了稀疏-密集混合模型以提高检索精度。这些模型在大规模检索中胜过替代方案。