![[MAF预定义ChatClient中间件-04]ReducingChatClient——精减对话历史又不丢失基本语义 - Artech](https://assets.cnblogs.com/images/ghs.png)
内容提要
ReducingChatClient是一种中间件，旨在通过精简对话内容来提高Agent的决策准确性。它利用SummarizingChatReducer对对话进行摘要处理，保留关键信息，减少上下文干扰，从而优化LLM推理质量。系统通过设置targetCount和threshold参数，确保在不丢失基本语义的情况下保留必要的对话信息。
关键要点
-
ReducingChatClient是一种中间件，旨在通过精简对话内容来提高Agent的决策准确性。
-
该系统利用SummarizingChatReducer对对话进行摘要处理，保留关键信息，减少上下文干扰。
-
通过设置targetCount和threshold参数，确保在不丢失基本语义的情况下保留必要的对话信息。
-
ReducingChatClient的核心是IChatReducer接口，定义了ReduceAsync方法用于对消息列表进行精简处理。
-
SummarizingChatReducer是IChatReducer接口的实现，通过生成摘要来精简消息列表。
-
MessageCountingChatReducer是另一种精简器，基于消息数量进行滑动窗口裁剪，直接保留最近的N条消息。
-
ReducingChatClient中间件通过调用IChatReducer的ReduceAsync方法来精简消息列表，优化LLM推理质量。
延伸问答
ReducingChatClient的主要功能是什么？
ReducingChatClient旨在通过精简对话内容来提高Agent的决策准确性。
SummarizingChatReducer是如何工作的？
SummarizingChatReducer通过生成摘要来精简消息列表，保留关键信息并减少上下文干扰。
如何设置ReducingChatClient的参数？
可以通过设置targetCount和threshold参数来配置ReducingChatClient，确保在不丢失基本语义的情况下保留必要的对话信息。
MessageCountingChatReducer与SummarizingChatReducer有什么区别？
MessageCountingChatReducer直接保留最近的N条消息，而SummarizingChatReducer则通过生成摘要来精简消息列表。
ReducingChatClient如何优化LLM推理质量？
ReducingChatClient通过精简对话内容，腾出更多上下文窗口，从而提高LLM推理的质量。
如何在代码中实现ReducingChatClient？
可以通过ChatClientBuilder注册ReducingChatClient中间件，并指定SummarizingChatReducer对象来实现。
