The JetBrains Blog
·
在Kotlin中构建AI代理 – 第五部分：教代理忘记
内容提要
本文探讨了在复杂任务中实现智能压缩的方法，以防止代理因上下文超限而崩溃。通过调整策略，代理在执行工具后检查历史记录大小，提取重要信息并丢弃冗余内容，从而延长任务执行时间。关键在于设定压缩阈值和选择保留的信息，以确保代理持续有效工作。
关键要点
-
代理在复杂任务中会耗尽上下文，导致崩溃。
-
智能压缩通过提取重要信息并丢弃冗余内容来延长任务执行时间。
-
使用 singleRunStrategy() 控制代理的循环，但在复杂问题中需要检查历史记录大小。
-
引入历史压缩策略 singleRunStrategyWithHistoryCompression()，在执行工具后检查历史记录。
-
设置压缩阈值，以确定何时进行压缩，避免超出上下文窗口限制。
-
选择保留的信息可以通过信任 LLM 或明确指定提取内容来实现。
-
定义概念以确保代理在压缩时保留关键状态信息。
-
可以使用不同的模型处理历史压缩，提升性能。
-
通过历史压缩，代理可以在不崩溃的情况下完成更长的任务。
-
系列文章介绍了构建能够在实际模型限制内运行的 AI 代理的各个方面。
延伸解读
智能压缩的重要性
在复杂任务中，代理的上下文会迅速耗尽，导致崩溃。智能压缩通过提取关键信息并丢弃冗余内容，确保代理能够在有限的上下文窗口内持续工作。这种方法不仅提高了任务的执行效率，还减少了因上下文超限而导致的错误，适用于需要长时间运行的任务。
压缩策略的选择
在实施历史压缩时，选择合适的压缩策略至关重要。可以选择信任LLM自动总结，或明确指定需要保留的信息。前者简单快速，但可能遗漏关键细节；后者则需要更多配置，但能确保重要信息不被丢失。根据具体任务需求，合理选择策略将直接影响代理的表现。
模型选择与性能
不同的模型在处理历史压缩时表现各异。文章提到可以为不同的处理阶段选择不同的模型，以提升性能。这意味着在实际应用中，开发者需要根据任务复杂性和资源限制，灵活调整所用模型，以实现最佳效果。
延伸问答
如何防止代理在复杂任务中崩溃？
通过智能压缩，提取重要信息并丢弃冗余内容，代理可以延长任务执行时间，避免崩溃。
什么是历史压缩策略？
历史压缩策略是通过检查历史记录大小并在超出阈值时提取重要信息，从而避免上下文窗口限制。
如何设置压缩阈值？
压缩阈值可以通过设定消息数量或字符长度来配置，例如设置为200条消息或200,000个字符。
代理在执行任务时如何选择保留的信息？
代理可以选择信任LLM自动决定重要信息，或明确指定需要提取的内容。
使用不同模型处理历史压缩有什么好处？
使用不同模型可以提升性能，确保在历史压缩时更有效地处理信息。
如何定义概念以确保代理保留关键状态信息？
通过创建Concept对象，定义具体问题，确保在压缩时保留必要的信息。
