Tmr Blog
·
让AI主动管理自己的上下文
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
文章探讨了上下文管理的主动性，提出使用类似git的树结构来优化上下文的存储与跳转，并引入标记任务进度的工具，以提升AI对上下文的感知和压缩能力，从而提高效率。
🎯
关键要点
- 上下文管理需要更加主动和细粒度的处理。
- 当前的上下文清理主要依赖于达到阈值触发压缩，缺乏主动性。
- 引入d-mail功能，可以让AI在低信息密度的情况下回溯上下文。
- pi agent提供了统一的上下文存储，采用树形结构存储session。
- session tree可以类比为git工作流，每条消息对应一个commit。
- 跳转和总结的操作可以通过树结构实现，类似于git的checkout和mr提交。
- 需要对session tree进行精简，以避免上下文过于庞大。
- 设计了context_tag、context_log和context_checkout工具，帮助AI标记任务进度和管理上下文。
- HUD设计用于提醒AI打tag和监控上下文占用情况。
- 插件提供了指导，帮助agent有效使用上下文管理工具。
- 理论上可以将这些工具迁移到其他具有session存储的工具上。
❓
延伸问答
如何提高AI的上下文管理能力？
通过引入类似git的树结构和标记任务进度的工具，可以提升AI对上下文的感知和压缩能力，从而提高效率。
什么是d-mail功能，它有什么作用？
d-mail功能允许AI在低信息密度情况下回溯上下文，帮助AI重新获取之前的信息并进行标记。
pi agent的上下文存储是如何工作的？
pi agent提供了统一的上下文存储，采用树形结构存储session，并支持树操作方法，如复制和跳转。
如何使用context_tag、context_log和context_checkout工具？
这些工具分别用于标记任务进度、查看上下文骨架和在骨架上跳转，帮助AI更好地管理上下文。
为什么需要对session tree进行精简？
因为在产生大量对话后，session tree会变得非常庞大，AI需要精简以避免上下文过于复杂。
HUD在上下文管理中起什么作用？
HUD用于提醒AI打tag和监控上下文占用情况，帮助AI保持对上下文的感知。
➡️
