微软在Ignite大会上宣布Foundry Agent Service的内存功能进入公开预览，允许开发者存储和管理聊天摘要及用户偏好。内存功能分为提取、整合和检索三个阶段，支持通过SDK和API使用。每个内存范围可存储最多10,000个项目，系统每分钟处理1,000个请求，满足长期上下文的基础设施需求。

在大型语言模型应用中，内存功能至关重要。LangChain框架提供多种内存组件，如BaseChatMessageHistory和FileChatMessageHistory，帮助开发者管理对话历史，从而实现上下文感知的AI应用，提升交互质量。