[MAF预定义ChatClient中间件-04]ReducingChatClient——精减对话历史又不丢失基本语义 - Artech

ReducingChatClient是一种中间件，旨在通过精简对话内容来提高Agent的决策准确性。

该系统利用SummarizingChatReducer对对话进行摘要处理，保留关键信息，减少上下文干扰。

通过设置targetCount和threshold参数，确保在不丢失基本语义的情况下保留必要的对话信息。

ReducingChatClient的核心是IChatReducer接口，定义了ReduceAsync方法用于对消息列表进行精简处理。

SummarizingChatReducer是IChatReducer接口的实现，通过生成摘要来精简消息列表。

MessageCountingChatReducer是另一种精简器，基于消息数量进行滑动窗口裁剪，直接保留最近的N条消息。

ReducingChatClient中间件通过调用IChatReducer的ReduceAsync方法来精简消息列表，优化LLM推理质量。