Artech ·

[MAF预定义ChatClient中间件-07]PerServiceCallChatHistoryPersistingChatClient——基于ReAct循环的一步一存档 - Artech

💡 原文中文，约10700字，阅读约需26分钟。

📝

内容提要

本文讨论了ReAct循环中ChatHistoryProvider的消息存档机制。默认情况下，消息在循环结束后存档，可能导致数据丢失。为提高可靠性，建议使用PerServiceCallChatHistoryPersistingChatClient中间件，实现每次迭代后即时存档，确保数据安全。通过示例展示了如何创建和使用该中间件，以持久化对话历史，防止数据丢失。

🎯

关键要点

默认情况下，ChatHistoryProvider在ReAct循环结束后才存档消息，可能导致数据丢失。
建议使用PerServiceCallChatHistoryPersistingChatClient中间件，实现每次迭代后即时存档，确保数据安全。
通过示例展示了如何创建和使用ChatHistoryProviderWrapper来监控消息的加载和保存。
PerServiceCallChatHistoryPersistingChatClient旨在实现高频率的聊天历史持久化，防止因网络崩溃导致数据丢失。
该中间件通过ChatClientAgentOptions中的RequirePerServiceCallChatHistoryPersistence选项启用。
使用该中间件后，CodeHistoryProvider的InvokingAsync和InvokedAsync方法会在每轮迭代中被调用，确保数据安全。

🔎

延伸解读

数据安全的重要性

在ReAct循环中，默认的消息存档机制可能导致数据丢失，尤其是在多轮迭代中。如果存档失败，所有消息将无法恢复。因此，使用PerServiceCallChatHistoryPersistingChatClient中间件进行每次迭代后即时存档，可以显著提高数据的安全性，确保用户信息不被丢失。

中间件的使用场景

PerServiceCallChatHistoryPersistingChatClient中间件适用于需要高频率消息存档的场景，特别是在复杂的工具调用链中。它通过实时存档机制，确保即使在网络崩溃或单步失败的情况下，之前的消息仍然可以被保留，适合企业级AI应用。

实现细节与注意事项

在实现PerServiceCallChatHistoryPersistingChatClient时，需确保在ChatClientAgentOptions中正确设置RequirePerServiceCallChatHistoryPersistence选项。否则，可能导致中间件无法正常工作，影响整体数据存档的可靠性。

❓

延伸问答

什么是PerServiceCallChatHistoryPersistingChatClient中间件？

PerServiceCallChatHistoryPersistingChatClient中间件用于在ReAct循环中实现每次迭代后即时存档聊天历史，以防止数据丢失。

为什么默认的消息存档机制可能导致数据丢失？

默认情况下，消息在ReAct循环结束后才存档，如果存档失败，所有消息将会丢失。

如何使用PerServiceCallChatHistoryPersistingChatClient中间件？

可以通过在ChatClientAgentOptions中设置RequirePerServiceCallChatHistoryPersistence选项为true来启用该中间件。

PerServiceCallChatHistoryPersistingChatClient中间件的主要优势是什么？

该中间件的主要优势是实现高频率的聊天历史持久化，确保在网络崩溃时数据不会丢失。

如何监控消息的加载和保存？

可以通过创建ChatHistoryProviderWrapper类，重写InvokingCoreAsync和InvokedCoreAsync方法来监控消息的加载和保存。

在使用该中间件时，CodeHistoryProvider的InvokingAsync和InvokedAsync方法会如何被调用？

使用该中间件后，CodeHistoryProvider的InvokingAsync和InvokedAsync方法会在每轮迭代中被调用，确保数据安全。

🏷️