GraphReader: 基于图的智能体构建以增强大型语言模型的长上下文能力
内容提要
ReadAgent 系统通过先进语言模型解决了上下文长度限制，提升了长文本处理能力。LongAgent 方法将上下文窗口扩展至128K，显示出相较于 GPT-4 的优势。MemWalker 通过摘要节点树处理长上下文，提升了问答性能。GraphText 框架实现了图形与自然语言的转换，增强了大型语言模型的能力。这些方法在长文本理解和图推理方面展现了显著改进。
延伸解读
长上下文扩展的两条路径
文章介绍了扩展大语言模型上下文能力的两种思路：ReadAgent通过压缩记忆和按需查找，将有效窗口扩大3-20倍；LongAgent则用多智能体协作，将LLaMA的窗口扩展到128K。前者侧重记忆管理，后者侧重分工协作，为不同场景提供了选择。
图结构与语言模型的结合
GraphText将图转化为自然语言，无需图数据训练即可实现图推理，性能媲美甚至超越监督训练的图神经网络。GraphLLM则端到端融合图学习与LLM，平均准确率提升54.44%，上下文减少96.45%。这表明图结构能帮助LLM更高效地处理关系型信息。
长对话理解的挑战
文章提到一个包含300回合、平均9K标记的长期对话数据集，用于评估模型的长程记忆。实验显示，LLM在理解冗长对话中的时间和因果动态方面仍远落后于人类，即使使用长上下文或RAG策略也只能部分改进。这提示长对话理解仍是待突破的难点。
评估方法的创新
利用整本书籍生成合成阅读理解数据，并采用模型间相对比较与Bradley-Terry排名，比绝对评分更一致且区分性更强。人工策划的NarrativeQA验证了该方法与人类判断高度一致，甚至发现了数据集中的错误。这为长上下文评估提供了更可靠的自动化方案。
Q&A
ReadAgent 系统是如何解决大型语言模型的上下文长度限制的？
ReadAgent 系统通过将内容存储到内存片段中，并压缩为要点内存，在需要时查找相关细节，从而提升长文本处理能力。
LongAgent 方法的上下文窗口扩展到多少？
LongAgent 方法将上下文窗口扩展至 128K。
MemWalker 是什么，它如何提升问答性能？
MemWalker 是一种将长上下文处理成摘要节点树的方法，通过导航该树寻找相关信息，从而提升问答性能。
GraphText 框架的主要功能是什么？
GraphText 框架实现了图形与自然语言的转换，增强了大型语言模型的能力。
这些新方法在长文本理解方面的表现如何？
这些方法在长文本理解和图推理方面展现了显著改进。
如何通过多智能体协作提升长文本处理能力？
通过多智能体协作的方法，LongAgent 中的领导者理解用户意图并指导团队成员获取信息，从而提升长文本处理能力。
