迷途小书童
·
上下文工程：会话与记忆
💡
原文中文，约2900字，阅读约需7分钟。
📝
内容提要
AI需要结合上下文、会话和记忆，以实现个性化和长期互动。上下文工程动态管理信息，确保对话连贯；会话提供短期记忆，而记忆则存储用户偏好和历史。两者结合使AI更像助手和伙伴。
🎯
关键要点
-
AI需要结合上下文、会话和记忆，以实现个性化和长期互动。
-
当前许多AI是无状态的，无法记住之前的对话内容。
-
上下文工程是动态管理信息，确保对话连贯的过程。
-
上下文包括系统指令、工具定义、示例、外部知识和对话历史。
-
会话是完整交互的记录容器，保证AI在单次对话中能记住上下文。
-
记忆是跨会话的持久化机制，帮助AI记住用户的偏好和历史。
-
记忆可以是结构化或非结构化的信息片段，通过记忆管理器存储和检索。
-
实际系统通过获取上下文、准备上下文、调用LLM和工具、上传保存上下文来工作。
-
记忆系统可以有不同形式，如结构化记忆、滚动摘要、集合和多模态记忆。
-
现代LLM需要上下文工程来实现长期、多轮、个性化的任务。
-
Session提供短期上下文，Memory提供长期上下文，二者结合使AI更像助手和伙伴。
❓
延伸问答
上下文工程是什么？
上下文工程是动态管理信息的过程，确保AI在每次回应时有足够相关的信息，以实现连贯的对话。
会话和记忆在AI中有什么区别？
会话是单次交互的记录容器，而记忆是跨会话的持久化机制，用于存储用户的偏好和历史。
AI如何实现个性化服务？
AI通过上下文工程结合会话和记忆，动态管理用户信息，从而提供个性化和连贯的服务体验。
记忆系统有哪些不同形式？
记忆系统可以有结构化记忆、滚动摘要、集合和多模态记忆等不同形式，以适应不同的信息存储需求。
上下文工程如何影响AI的对话能力？
上下文工程通过提供相关信息和历史记录，使AI能够进行更连贯和个性化的多轮对话。
AI的短期和长期记忆分别是什么？
短期记忆由会话提供，记录当前对话的信息；长期记忆由记忆系统提供，存储用户的偏好和历史。
➡️
