AI代理记忆设计：有效与无效模式
内容提要
本文探讨AI代理记忆系统的设计，区分有效与无效模式。有效策略包括：按重要性评分存储、按角色划分记忆范围、逐步写入工作记忆、在决策点检索、追踪来源。无效做法包括：将所有内容存入向量库、用摘要压缩上下文、忽视记忆维护、信任所有写入内容、使用单一记忆层。建议采用分层存储、结构化事实提取、定期维护及信任过滤机制。
延伸解读
记忆分层：避免单一存储的陷阱
文章强调，将工作记忆、情景记忆、语义记忆和程序记忆混在一个向量库中，会导致检索噪声大、结果不相关。有效的做法是分层存储，每层有独立的命名空间、模式和检索策略。例如，工作记忆用直接键值查找，情景记忆用语义搜索，语义记忆结合键值和语义搜索。这样能减少信息混淆，提高检索准确性。
写入策略：重要性评分与来源追踪
写入策略比检索更关键。文章建议在写入前评估信息的重要性（0到1）和置信度，只持久化高价值信息。同时，每条记忆应携带来源元数据（如代理ID、工具名、输入哈希），以便追溯错误。这能防止低质量或无关信息污染记忆库，并在出现问题时快速定位根源。
信任与安全：防范记忆投毒
记忆投毒是真实风险：外部内容可能包含隐藏指令，被存储后在未来会话中被检索并执行。文章引用MemoryGraft攻击，说明少量投毒条目就能在相似查询中占据高比例结果。应对措施包括：对低信任来源的内容进行指令检测，拒绝含指令的内容；为记忆条目设置信任级别，并在高风险操作前过滤。
维护与压缩：避免记忆腐化
记忆需要持续维护，否则会积累过时和重复信息。文章建议实施置信度衰减（对时间敏感的事实定期复核）、去重、情景压缩（将旧任务记录转为摘要）和TTL自动过期。压缩时避免使用自由文本摘要，因为会丢失关键细节并固化幻觉；应提取结构化事实，并设置置信度阈值。
Q&A
AI代理的记忆与上下文、提示词和静态知识库有何不同？
AI代理的记忆是代理在运行时写入外部存储并在后续调用中检索的信息，用于跨步骤或会话保持连续性。而系统提示、对话历史和静态知识库属于配置、上下文和固定检索源，不是记忆。
AI代理记忆系统有哪些有效策略？
有效策略包括：按重要性评分存储，只持久化高重要性和高置信度的信息；按代理角色划分记忆范围，避免共享存储导致上下文污染；在每一步后写入工作记忆，并逐步提升到长期记忆；在决策点检索记忆，而不是只在任务开始时检索一次；追踪每条记忆的来源和信任级别。
为什么将所有内容存入向量数据库不是好的记忆架构？
因为向量数据库的语义相似性并不总是意味着相关性，分块不当会丢失上下文，多跳查询需要关系而向量搜索无法捕捉，且存储的嵌入可能过时。可靠记忆需要结构、关系和更新机制。
用摘要压缩上下文作为记忆有什么风险？
风险包括丢失关键细节（如约束、边界情况、具体数字）和加剧幻觉（如果早期会话中的幻觉被摘要并持久化，未来会话会将其视为事实，导致错误持续）。
如何防止记忆中毒攻击？
通过信任级别过滤和写入前消毒：高信任来源直接写入，低信任内容检查是否包含隐藏指令，如有则拒绝写入。同时保留来源追踪，以便追溯和移除被污染的记忆。
为什么记忆需要定期维护？
因为记忆会随时间增长，导致检索噪声增加、成本上升和过时信息积累。维护包括置信度衰减、去重、情节压缩和设置生存时间（TTL），以保持记忆的相关性和准确性。
在AI代理中，为什么不应该使用单一记忆层？
单一记忆层会混合对话历史、任务状态、偏好和领域知识，导致检索噪声和不可预测的行为。更好的做法是分层存储，如工作记忆、情节记忆、语义记忆和程序记忆，每层有自己的命名空间、模式和检索策略。
如何为AI代理定义写入策略？
写入策略应明确：什么触发写入、存储什么（原始输出、提取或摘要）、谁可以写入每个命名空间、每种记忆类型的TTL、最低置信度要求、冲突事实如何解决以及任务回滚后记忆如何处理。
