自压缩语言模型智能体
内容提要
论文提出SELFCOMPACT方法，让语言模型自主决定上下文压缩的时机与方式：模型可调用压缩工具总结累积内容，并依据轻量规则判断触发时机（子任务完成或轨迹收敛）与抑制时机（推导中或卡住）。在六个基准、七个模型上，该方法以更低token成本达到或超过固定间隔摘要，数学任务最高提升18.1分，智能搜索提升5–9分，成本降低30–70%。
延伸解读
自适应压缩的触发与抑制机制
SELFCOMPACT的核心在于让模型自主判断压缩时机。它通过轻量规则明确何时触发压缩（子任务完成或轨迹收敛）以及何时抑制（推导中或卡住）。这种设计避免了固定间隔压缩可能丢弃中间结果的风险，使压缩更贴合任务结构。
工具与规则协同的必要性
文章指出，仅提供压缩工具时，不同模型使用不均，常在不当时机调用或完全不调用；而仅有规则又无法执行压缩。两者结合才能在没有微调或外部监督的情况下，实现有效的自适应压缩。
性能提升与成本优势
在六个基准和七个模型上，SELFCOMPACT以更低token成本达到或超过固定间隔摘要。数学任务最高提升18.1分，智能搜索提升5–9分，同时每问题成本降低30–70%。这表明自适应压缩能显著提升效率。
元认知差距与脚手架的作用
研究揭示了一个元认知差距：模型无法可靠判断自身上下文何时腐化。但轻量规则可以弥补这一差距，将“何时压缩”重新定义为一种可由脚手架提供的能力，而无需训练。这为智能体设计提供了新思路。
Q&A
SELFCOMPACT是什么？它和固定间隔压缩有什么区别？
SELFCOMPACT是一种让语言模型自主决定何时以及如何压缩上下文的脚手架。与固定间隔压缩（在达到token阈值时触发）不同，SELFCOMPACT根据轨迹结构动态决定压缩时机，避免在推导或搜索中途丢弃部分结果。
SELFCOMPACT如何决定何时压缩上下文？
SELFCOMPACT通过两个推理时元素决定压缩时机：(i) 模型调用压缩工具来总结累积的上下文；(ii) 一个轻量级规则指定何时触发（子任务已解决或轨迹收敛）以及何时抑制（推导中或卡住时）。两者缺一不可。
SELFCOMPACT在哪些任务上进行了评估？效果如何？
SELFCOMPACT在六个基准（竞争性数学和智能搜索）和七个模型上进行了评估。结果显示，它以更低的token成本达到或超过固定间隔摘要，数学任务最高提升18.1分，智能搜索提升5-9分，每问题成本降低30-70%。
SELFCOMPACT需要微调或外部监督吗？
不需要。SELFCOMPACT无需任何微调或外部监督，仅通过压缩工具和轻量级规则即可实现有效的自适应压缩。
为什么仅靠压缩工具或仅靠规则不够？
仅靠压缩工具时，不同开源模型使用不均匀，常在无益时刻调用或根本不调用；仅靠规则则无法执行压缩动作。两者结合才能引发有效的自适应压缩。
SELFCOMPACT揭示了什么关于模型自我认知的发现？
SELFCOMPACT揭示了元认知差距：未经提示的模型无法可靠判断自身上下文何时腐化，但轻量级规则可以弥补这一差距，将“何时压缩”重新定义为脚手架无需训练即可提供的能力。
