研究提出了一种名为“情境内重新排序”(ICR)的新方法,提升大型语言模型在信息检索中的重新排序能力。ICR利用搜索查询引起的注意力模式变化,提高效率,适用于任何LLM。实验表明,ICR性能优于现有方法,并减少了60%以上的延迟,为生成式AI时代的信息检索系统提供了新可能。
完成下面两步后,将自动完成登录并继续当前操作。