本研究提出RHIO框架,以解决大型语言模型在长文本问答中的上下文忠实性问题,显著提升模型的忠实度,并开发了GroundBench基准进行评估。实验结果表明,RHIO优于GPT-4o。
本研究提出了一种动态检索方法,旨在改善现有检索增强生成模型在长文本问答中的不足。该方法仅在模型缺乏必要知识时进行检索,评估结果显示可将检索调用次数减少近一半,且对问答准确性影响微小。
该文综述大模型长上下文与记忆机制研究,涵盖MemWalker(摘要节点树迭代导航长文本问答)、递归摘要增强对话长期记忆、KwaiAgents信息获取代理、LongMem长期记忆、Episodic Memory Reader结合强化学习筛选记忆、Selective Context降低推理成本、RAISE双组件记忆提升多轮对话、LLM专家代理挑战ARC、RecallM增强时间理解,以及LooGLE评估显示长依赖任务仍困难。
本文综述大语言模型长期记忆研究,涵盖LongMem的长期记忆机制、UniMC的对话连贯性增强、MemWalker的摘要树长文本问答、LongBench对商业与开源模型的评估、RET-LLM的读写记忆单元,以及语义压缩法将上下文扩展6-8倍。
完成下面两步后,将自动完成登录并继续当前操作。