HEMA:一种仿人脑海马体的扩展记忆架构,用于长上下文AI对话
💡
原文中文,约600字,阅读约需2分钟。
📝
内容提要
本研究提出了一种名为HEMA的双重记忆系统,旨在提高大型语言模型在长时间对话中的连贯性。HEMA结合了Compact Memory和基于余弦相似性的Vector Memory,实验结果显示其在300个回合对话中显著提升了事实回忆的准确率和连贯性。
🎯
关键要点
- 本研究提出了一种名为HEMA的双重记忆系统,旨在提高大型语言模型在长时间对话中的连贯性。
- HEMA结合了持续更新的Compact Memory和基于余弦相似性的Vector Memory。
- 实验结果显示,HEMA在与6B参数变换器集成后,能够在超过300个回合的对话中保持连贯性。
- HEMA显著提高了事实回忆的准确率和人类评分的连贯性。
➡️