内容提要
调查显示,97%的团队认为上下文工程重要,但仅4%已实施。上下文决定AI代理可靠性,却常无人负责,导致质量、安全和成本问题。解决方案是建立共享基础设施层,由指定团队负责记忆、检索、缓存等,而非新增职位。Redis提供内存级低延迟服务,支持代理上下文管理,帮助团队高效运行。
延伸解读
所有权缺口的根源
调查显示,97%的团队认为上下文工程重要,但只有4%已实施。这种差距源于团队各自为政:每个团队直接连接数据源构建代理,无人负责跨团队的上下文层。由于AI代理部署仍处于早期(仅31%开发者使用),多数公司尚未面临所有权问题,往往在首次生产事故后才意识到。
无人负责的后果
当上下文无人管理时,会出现多种失败模式:模型在长上下文中难以定位关键信息(准确率下降超20%);多租户RAG中未设门控的检索导致跨租户数据泄露(98-100%探测成功);长上下文成本高昂(如gpt-5.6-sol超过270K tokens时输入价格翻倍)。这些问题共同导致代理项目停滞,超过40%的代理AI项目预计在2027年前被取消。
共享基础设施而非新职位
解决方案并非设立“上下文工程师”职位,而是建立共享基础设施层,由指定团队负责记忆、检索、缓存和工具访问控制。这类似于数据工程中数据网格的演进:所有权分散在领域团队,但底层平台和治理规则集中。Redis等工具提供内存级低延迟服务,支持语义缓存和向量搜索,帮助团队高效管理上下文。
Q&A
为什么上下文工程的所有权常常缺失?
因为每个团队都直接连接数据源构建自己的代理,没有人负责跨团队的上下文层。此外,AI代理采用率低(2025年只有31%的开发人员使用),许多公司尚未面临所有权问题。
上下文工程具体包括哪些工作?
上下文工程包括决定在每个步骤中放入LLM上下文窗口的内容,如指令、检索到的文档、工具定义、对话历史、记忆和之前的工具调用结果。它涉及四个操作:写入(在窗口外保存状态)、选择(拉入正确的内容)、压缩(只保留任务所需的令牌)和隔离(跨代理拆分工作)。
如果没有人负责上下文,会出现哪些问题?
会出现四个主要问题:不透明性(模型无法有效使用上下文中的信息,如相关文档在中间时准确率下降超过20%)、安全风险(多租户RAG中未门控的检索导致98-100%的跨租户数据泄露)、成本增加(长上下文提示词价格翻倍)以及项目失败(超过40%的代理AI项目预计到2027年底被取消)。
解决上下文所有权问题的推荐方法是什么?
推荐的方法是建立共享基础设施层,由指定团队负责记忆、检索、缓存和受控工具访问,而不是新增“上下文工程师”职位。需要指定一个负责的负责人,并赋予其制定标准的权力。
Redis在上下文工程中扮演什么角色?
Redis通过内存架构提供亚毫秒级延迟,支持代理上下文管理,包括向量搜索检索和语义缓存。Redis Iris提供四个托管服务,覆盖上下文管理的不同方面,帮助团队高效运行代理。
上下文工程的所有权通常由哪个团队负责?
不同组织选择不同的团队,例如数据工程、平台工程、AI/ML工程或产品团队。一个可行的模式是共享所有权,由一个负责的负责人领导,该负责人理解数据、建模和本体论,并有权制定标准。