自感知的知识检索:用于自适应检索强化生成的方法
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
SeaKR是一种自我感知知识检索模型,利用大规模语言模型的内部状态提取自我感知的不确定性,激活检索。SeaKR根据自我感知不确定性重新排序已检索的知识片段,以减少不确定性。SeaKR还利用自我感知不确定性选择不同的推理策略。实验证明,SeaKR优于自适应RAG方法。
🎯
关键要点
- SeaKR是一种自我感知知识检索模型。
- 该模型从大规模语言模型的内部状态中提取自我感知的不确定性。
- 通过检测生成时的高度不确定性来激活检索。
- SeaKR根据自我感知不确定性对已检索的知识片段进行重新排序,以减少不确定性。
- 为了解决复杂任务,SeaKR利用自我感知不确定性选择不同的推理策略。
- 实验证明,SeaKR在复杂和简单问答数据集上优于自适应RAG方法。
- 代码已发布在指定的URL上。
➡️