HEMA:一种仿人脑海马体的扩展记忆架构,用于长上下文AI对话

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

本研究提出了一种名为HEMA的双重记忆系统,旨在提高大型语言模型在长时间对话中的连贯性。HEMA结合了Compact Memory和基于余弦相似性的Vector Memory,实验结果显示其在300个回合对话中显著提升了事实回忆的准确率和连贯性。

🎯

关键要点

  • 本研究提出了一种名为HEMA的双重记忆系统,旨在提高大型语言模型在长时间对话中的连贯性。
  • HEMA结合了持续更新的Compact Memory和基于余弦相似性的Vector Memory。
  • 实验结果显示,HEMA在与6B参数变换器集成后,能够在超过300个回合的对话中保持连贯性。
  • HEMA显著提高了事实回忆的准确率和人类评分的连贯性。
➡️

继续阅读