.NET+AI | Agent | 自定义中间件（11）
💡
原文中文，约2300字，阅读约需6分钟。
📝
内容提要
MAF中间件架构提供三层拦截体系：ChatClient、Agent Run和Function Invocation，专注于日志处理、限流和权限管理等企业级需求。各层职责分离，灵活组合，适用于监控和安全检查等场景。
🎯
关键要点
- MAF中间件架构提供三层拦截体系：ChatClient、Agent Run和Function Invocation。
- 三层架构专注于日志处理、限流和权限管理等企业级需求。
- 各层职责分离，灵活组合，适用于监控和安全检查等场景。
- ChatClient层用于Token统计、限流和缓存，每次LLM调用时触发。
- Agent Run层用于PII过滤和安全检查，每次Agent调用时触发一次。
- Function Invocation层用于工具函数的执行日志和权限检查，每次工具调用时触发。
- 推荐的中间件组合包括监控、性能、安全和审计等功能。
- 三层架构的灵活组合可以根据需求选择合适的中间件层级。
❓
延伸问答
MAF中间件架构的三层拦截体系是什么？
MAF中间件架构包括ChatClient层、Agent Run层和Function Invocation层，分别处理不同的企业级需求。
每一层的主要职责是什么？
ChatClient层负责Token统计、限流和缓存；Agent Run层用于PII过滤和安全检查；Function Invocation层处理工具函数的执行日志和权限检查。
MAF中间件架构适用于哪些场景？
该架构适用于监控、安全检查、性能优化等企业级需求。
如何实现ChatClient中间件？
可以使用MEAI的DelegatingChatClient或Use()方法来实现ChatClient中间件，拦截每次LLM调用。
推荐的中间件组合有哪些？
推荐的中间件组合包括ChatClient层的监控和性能，Agent层的安全和审计。
MAF中间件架构的灵活组合有什么优势？
灵活组合允许根据需求选择合适的中间件层级，满足不同的企业级需求。
➡️
