程序员充电站
·
Agent 教程笔记（Task04）
内容提要
上下文工程关注智能体上下文状态的有效管理，强调信息的组织与压缩。通过系统提示、工具调用和结构化示例，优化上下文窗口的使用，避免信息腐蚀。采用子代理架构和长期笔记工具，提高信息检索与管理效率，实现高质量的智能体交互。
关键要点
-
上下文工程关注智能体上下文状态的有效管理，强调信息的组织与压缩。
-
提示工程关注如何写好指令，而上下文工程关注如何优化上下文窗口的使用。
-
上下文是稀缺资源，模型的上下文窗口和注意力预算有限。
-
高质量上下文的目标是用少量高信号密度的tokens最大化正确行为的概率。
-
长时程任务的关键手段包括压缩整合、结构化笔记和子代理架构。
-
压缩整合通过高保真总结历史信息，清理噪声，保留关键信息。
-
结构化笔记将长期保留的信息记录在上下文外，便于检索和管理。
-
子代理架构通过分工合作，保持主代理的上下文干净。
-
ContextBuilder封装了信息收集、选择、结构化和压缩的过程，简化了上下文构建。
-
ContextPacket是信息的原子单元，便于统一打分和过滤。
-
GSSC的四个阶段包括汇集、筛选、结构化和压缩，确保信息的有效管理。
-
NoteTool作为轻量项目式记忆，支持完整的笔记生命周期管理。
-
TerminalTool允许Agent即时探索代码库和日志，提升信息获取的灵活性。
-
上下文工程通过工具、笔记和记忆实现分层、按需的信息管理。
-
综合案例展示了如何在代码库维护中应用上下文策略，强调信息的有效利用。
延伸解读
上下文的稀缺性与管理
上下文被视为稀缺资源，模型的上下文窗口和注意力预算有限。随着信息量的增加，模型的检索能力可能下降，导致上下文腐蚀。因此，在构建上下文时，必须精心选择和组织信息，以确保高信号密度的tokens最大化正确行为的概率。
长时程任务的策略
在处理长时程任务时，压缩整合、结构化笔记和子代理架构是关键手段。通过高保真总结历史信息，清理噪声并保留关键信息，可以有效管理上下文。此外，结构化笔记将长期保留的信息记录在上下文外，便于后续检索和管理。
工具与上下文工程的结合
ContextBuilder、NoteTool和TerminalTool的结合为上下文工程提供了有效的解决方案。通过这些工具，智能体能够按需获取信息，避免信息过载，同时确保信息的可追溯性和管理的灵活性。这种分层的信息管理策略能够提升智能体的交互质量。
延伸问答
上下文工程的主要目标是什么？
上下文工程的主要目标是有效管理智能体的上下文状态，优化信息的组织与压缩，以提高智能体交互的质量。
什么是子代理架构，它的优点是什么？
子代理架构是将主代理与多个子代理分工合作的结构，优点是主代理可以保持上下文干净，不被局部细节淹没。
如何实现高质量的上下文？
高质量的上下文通过使用少量高信号密度的tokens，结合系统提示、工具调用和结构化示例来最大化正确行为的概率。
ContextBuilder的作用是什么？
ContextBuilder封装了信息收集、选择、结构化和压缩的过程，简化了上下文的构建，确保输出的稳定性和可调试性。
NoteTool的主要功能是什么？
NoteTool作为轻量项目式记忆，支持完整的笔记生命周期管理，包括创建、读取、更新和删除操作。
上下文工程如何应对信息腐蚀问题？
上下文工程通过压缩整合历史信息、结构化笔记和使用子代理架构来应对信息腐蚀问题，确保关键信息的保留。
