本文介绍了MemoryLLM，一种提高变换器中前馈网络可解释性的模型。MemoryLLM将前馈网络与自注意力解耦，允许将前馈网络视为无上下文的记忆检索机制。通过直接使用令牌嵌入训练前馈网络，MemoryLLM实现了高效的推理和存储转移。此外，Flex-MemoryLLM架构在传统变换器设计与MemoryLLM之间架起了桥梁，提升了性能。

OpenClaw推出的Active Memory插件解决了AI在对话中遗忘的问题。该插件在每次回复前强制AI检索记忆，确保信息一致性。用户可以通过三种模式（message、recent、full）控制检索范围和成本，从而提升跨场景一致性和长期任务能力，显著改善用户体验。

New Computer团队开发了个人AI助手Dot，具备长期记忆系统，能够根据用户的语言和行为偏好提供个性化帮助。通过LangSmith，提升了记忆检索系统的准确性和召回率。Dot的记忆系统动态生成文档，支持多种检索方法，确保信息高效准确。团队利用合成用户数据进行实验，快速迭代优化对话提示，提升用户体验。

AI代理是一种能够自主感知环境并采取行动实现目标的智能体，利用大语言模型（LLM）进行记忆检索、决策推理和行动顺序选择等。不同角色的代理在环境中运行，每个角色有不同的动作。热门的代理框架有AutoGPT、GPT-Engineer和MetaGPT，MetaGPT可以生成2000行代码的项目。