内容提要
论文发现长程AI代理在上下文压缩时,安全规则与日志同比例被摘要,导致规则保真度骤降,称“压缩悬崖”。提出Knowledge Triage框架,用确定性算子按类型保留知识,显著提升规则保留率,并在医疗、零售等基准上表现更优,同时开源相关语料与实现。
延伸解读
压缩悬崖的成因:安全规则与日志同比例压缩
论文指出,长程Agent在上下文预算溢出时,安全规则与情景日志按同一压缩率被摘要,但安全规则需要逐字精确才能保持可执行。实测中,一轮压缩后仅保留53%的安全规则,五轮后只剩10%。这种保真度断崖被称为“压缩悬崖”,其根源在于压缩器未区分知识类型,导致关键规则被无差别改写。
Knowledge Triage:确定性算子与LLM压缩的对比
Knowledge Triage框架采用分类器将知识分为四类,并用三个确定性算子(TypeCompact、TypeDecompose、TypeRetrieve)处理,而非依赖LLM调用。这与CompactionRL等学习方法形成对比:后者将压缩作为策略学习,而本文通过可验证的规则逻辑保证行为边界,并配有校验器,任何规则缺失即标记为unsafe。
基准测试中的显著提升与统计显著性
在5个语料上,TypeCompact保留的安全规则数是单次LLM压缩器的2-4倍,五轮后recall达96%;TypeDecompose的locality violation为0%,TypeRetrieve的recall@50为100%。下游任务中,医疗合规域p<1e-8,零售任务p<0.01,航空域p=0.024,均显示显著优势。
边界条件与依赖风险
论文明确两个边界:实测仅基于Claude Code /compact提示与Sonnet 4.6的20个配置,其他工具和模型的悬崖高度未知;整套机制依赖分类器正确识别安全规则行,误分类会直接破坏分流策略。因此,实际应用需谨慎评估分类器准确性和跨模型泛化性。
Q&A
什么是“压缩悬崖”?
压缩悬崖(Compaction Cliff)是论文提出的概念,指长程AI代理在上下文压缩时,安全规则与情景日志按同一压缩率被摘要,但安全规则需要逐字精确才能保持可执行,导致规则保真度随压缩轮次累积下降,最终急剧丢失的现象。
压缩悬崖是如何产生的?
当长程代理的上下文预算溢出时,系统会压缩上下文,但安全规则与日志被同等对待,压缩器用摘要方式处理,导致安全规则被改写或丢失,而规则需要精确才能执行,因此保真度下降。
论文提出的Knowledge Triage框架包含哪些核心组件?
Knowledge Triage框架包含一个分类器,将知识分为四种类型,并采用三个确定性算子:TypeCompact(按类型保真度压缩)、TypeDecompose(分解主题并复制规则)、TypeRetrieve(检索时优先返回规则),以及一个校验器检查约束是否存活。
Knowledge Triage框架与CompactionRL有何不同?
Knowledge Triage使用确定性规则逻辑而非LLM调用,保证行为边界可验证;而CompactionRL将压缩能力作为策略学习,两者在方法论上根本不同。
Knowledge Triage在实验中表现如何?
在5个公开语料上,TypeCompact保留的安全规则数是单次LLM压缩器的2-4倍,五轮后recall达96%;TypeDecompose的locality violation为0%;TypeRetrieve的recall@50为100%。下游任务中,医疗合规域p<1e-8,零售任务通过率显著提升,航空域p=0.024。
论文开源了哪些资源?
论文开源了AgentArtifactCorpus,包含来自54,628个GitHub仓库的396,934个agent配置,以及分类器和参考实现。
压缩悬崖与连贯性债务有何关系?
两者互补:连贯性债务指缺失一个事实会损失它支撑的工作,而压缩悬崖显示压缩会主动侵蚀已存在的事实,安全规则是其中一类特殊事实,被摘要改写后失去可执行性。
论文的边界条件是什么?
生产实测仅绑定Claude Code /compact提示与Sonnet 4.6的20个配置,其他工具和模型上的悬崖高度未测;且框架依赖分类器正确识别安全规则行,误分类会破坏分流策略。