小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
[MAF预定义的AIContextProvider-05]CompactionProvider——采用多种策略压缩对话历史 - Artech

为了解决LLM调用的无状态问题,需要将消息历史作为上下文发送给LLM。随着对话的进行,消息历史不断增长,可能超出LLM的上下文窗口限制,导致响应质量下降。因此,压缩对话历史是必要的。MAF提供了多种压缩策略,CompactionProvider支持摘要、折叠、删除和替换等策略,有效压缩消息历史,保留核心信息。

[MAF预定义的AIContextProvider-05]CompactionProvider——采用多种策略压缩对话历史 - Artech

Artech Artech · 2026-07-13T01:34:00Z
[MAF预定义的AIContextProvider-04]Mem0Provider——长期记忆基于的云端解决方案 - Artech

本文介绍了如何使用ChatHistoryMemoryProvider和Mem0Provider为AI代理实现长期记忆功能。Mem0Provider通过远程调用Mem0服务存储和检索对话历史,使AI能够像人类一样记住用户偏好。示例中,代理根据用户的口味偏好进行外卖点餐,展示了会话状态的创建和管理。Mem0Provider的实现与ChatHistoryMemoryProvider相似,但不需要维护向量数据库。

[MAF预定义的AIContextProvider-04]Mem0Provider——长期记忆基于的云端解决方案 - Artech

Artech Artech · 2026-06-22T00:06:00Z
[MAF预定义的AIContextProvider-03]ChatHistoryMemoryProvider——赋予Agent从经验中学习的能力 - Artech

本文探讨了通过赋予智能代理记忆能力来提升外卖服务质量。短期记忆支持多轮对话,长期记忆实现跨会话的信息共享。使用ChatHistoryMemoryProvider,代理能够记录用户的口味偏好,并在后续点餐中根据这些偏好推荐菜品。示例代码展示了这一功能的实现,并指出了推荐多样性方面的不足。

[MAF预定义的AIContextProvider-03]ChatHistoryMemoryProvider——赋予Agent从经验中学习的能力 - Artech

Artech Artech · 2026-06-20T00:10:00Z
[MAF预定义的AIContextProvider-02]AgentSkillsProvider——将Agent Skills引入MAF - Artech

Agent Skills通过动态加载提示词机制增强用户与LLM的对话。以翻译古典诗词为例,定义了名为translator的Skill,提供三种翻译变体。实现包括AgentSkill类及其子类,支持从文件或内存加载。AgentSkillsProvider管理这些Skills,并通过构建器模式简化配置,旨在提升对话的灵活性和准确性。

[MAF预定义的AIContextProvider-02]AgentSkillsProvider——将Agent Skills引入MAF - Artech

Artech Artech · 2026-06-18T00:33:00Z
[MAF预定义的AIContextProvider-01]TextSearchProvider——RAG在MAF中的实现 - Artech

ChatClientAgent通过输入增强和输出增强与大型语言模型(LLM)交互。检索增强生成(RAG)利用TextSearchProvider根据上下文检索相关信息,从而提升LLM的回答质量。文章示例展示了如何使用TextSearchProvider获取2026年斯诺克世锦赛冠军吴宜泽的信息,强调了RAG在解决LLM知识局限性中的重要性。

[MAF预定义的AIContextProvider-01]TextSearchProvider——RAG在MAF中的实现 - Artech

Artech Artech · 2026-06-17T00:40:00Z
[MAF预定义ChatClient中间件-09]MessageInjectingChatClient-赋予工具消息注入的能力 - Artech

MAF中的ReAct循环通过FunctionInvokingChatClient中间件实现,AIFunction调用由此驱动。TransferMoney工具函数在用户未确认转账时,会注入风险提示消息,确保用户提供验证码。MessageInjectingChatClient用于注入消息并存储在Session的StateBag中,增强了风控能力。

[MAF预定义ChatClient中间件-09]MessageInjectingChatClient-赋予工具消息注入的能力 - Artech

Artech Artech · 2026-06-15T00:58:00Z
[MAF预定义ChatClient中间件-08]OpenTelemetryChatClient-实现链路跟踪和性能监控 - Artech

OpenTelemetry已成为应用和服务可观测性的标准。OpenTelemetryChatClient中间件通过重写方法,支持LLM调用的链路跟踪和性能监控。结合Prometheus和Grafana,开发者可以轻松搭建监控环境,收集和展示性能指标。示例代码展示了如何使用ActivitySource记录调用链信息,并在控制台和Grafana中查看性能数据。

[MAF预定义ChatClient中间件-08]OpenTelemetryChatClient-实现链路跟踪和性能监控 - Artech

Artech Artech · 2026-06-12T00:26:00Z
[MAF预定义ChatClient中间件-07]PerServiceCallChatHistoryPersistingChatClient——基于ReAct循环的一步一存档 - Artech

本文讨论了ReAct循环中ChatHistoryProvider的消息存档机制。默认情况下,消息在循环结束后存档,可能导致数据丢失。为提高可靠性,建议使用PerServiceCallChatHistoryPersistingChatClient中间件,实现每次迭代后即时存档,确保数据安全。通过示例展示了如何创建和使用该中间件,以持久化对话历史,防止数据丢失。

[MAF预定义ChatClient中间件-07]PerServiceCallChatHistoryPersistingChatClient——基于ReAct循环的一步一存档 - Artech

Artech Artech · 2026-06-11T00:53:00Z
[MAF预定义ChatClient中间件-06]利用ImageGeneratingChatClient开发专业图片生成Agent - Artech

本文介绍了如何利用ImageGeneratingChatClient中间件与ImageGenerator结合生成高质量图片。用户通过与Agent对话描述图片,LLM生成专业提示词,ImageGenerator根据提示生成图片。示例展示了如何输入描述并生成不同风格的布偶猫图片,强调了提示词的细节要求和生成过程中的工具使用。

[MAF预定义ChatClient中间件-06]利用ImageGeneratingChatClient开发专业图片生成Agent - Artech

Artech Artech · 2026-06-10T00:24:00Z
[MAF预定义ChatClient中间件-05]动态修改ChatOptions和请求消息 - Artech

本文介绍了如何使用IChatClient和ChatClientAgent动态配置ChatOptions,以实现不同模型的交替使用。通过ConfigureOptionsChatClient中间件,可以在每次调用时设置模型ID。同时,AIContextProviderChatClient中间件利用AIContextProvider生成增强的请求消息,提升对话质量。示例代码展示了对话摘要处理和动态配置的实现。

[MAF预定义ChatClient中间件-05]动态修改ChatOptions和请求消息 - Artech

Artech Artech · 2026-06-09T00:53:00Z
[MAF预定义ChatClient中间件-04]ReducingChatClient——精减对话历史又不丢失基本语义 - Artech

ReducingChatClient是一种中间件,旨在通过精简对话内容来提高Agent的决策准确性。它利用SummarizingChatReducer对对话进行摘要处理,保留关键信息,减少上下文干扰,从而优化LLM推理质量。系统通过设置targetCount和threshold参数,确保在不丢失基本语义的情况下保留必要的对话信息。

[MAF预定义ChatClient中间件-04]ReducingChatClient——精减对话历史又不丢失基本语义 - Artech

Artech Artech · 2026-06-07T23:50:00Z
[MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间 - Artech

CachingChatClient是一个中间件,用于缓存LLM调用结果,减少重复调用的时间和费用。它通过检查缓存返回相同输入的响应,若不存在则调用LLM并存储结果。DistributedCachingChatClient是其具体实现,利用IDistributedCache作为缓存存储,确保相同输入得到相同输出,提高效率。

[MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间 - Artech

Artech Artech · 2026-06-05T00:39:00Z
[MAF预定义ChatClient中间件-02]FunctionInvokingChatClient——实现ReAct循环和人机交互的大功臣 - Artech

FunctionInvokingChatClient是IChatClient中的关键中间件,驱动Agent执行ReAct循环。ReAct通过分析问题并调用工具函数来解决复杂任务,并在敏感操作中引入人机交互审批流程,以确保用户同意后再执行。示例包括根据天气提供穿衣建议和银行转账的审批流程,确保操作的安全性和有效性。

[MAF预定义ChatClient中间件-02]FunctionInvokingChatClient——实现ReAct循环和人机交互的大功臣 - Artech

Artech Artech · 2026-06-04T00:45:00Z
[MAF预定义ChatClient中间件-01]LoggingChatClient——在调用LLM前后输出日志 - Artech

LoggingChatClient是一个IChatClient中间件,用于记录调用日志,帮助调试和监控Agent行为。它记录输入、输出及时间戳信息,并支持不同日志级别的设置。通过UseLogging方法,可以轻松注册该中间件并控制日志输出。

[MAF预定义ChatClient中间件-01]LoggingChatClient——在调用LLM前后输出日志 - Artech

Artech Artech · 2026-06-03T00:53:00Z
[MAF的Agent管道详解-07]利用AIAgent中间件构建Agent管道 - Artech

本文介绍了如何使用DelegatingAIAgent中间件装饰AIAgent对象,以构建AIAgent管道。通过插入不同的中间件,可以增强和控制Agent调用。DelegatingAIAgent是一个抽象类,包含InnerAgent属性,支持功能扩展。AIAgentBuilder用于注册中间件并构建AIAgent对象,提供多种重载方法以满足不同需求。

[MAF的Agent管道详解-07]利用AIAgent中间件构建Agent管道 - Artech

Artech Artech · 2026-06-02T00:52:00Z
[MAF的Agent管道详解-06]ChatClientAgent对IChatClient和输入输出增强管道的整合 - Artech

本文介绍了ChatClientAgent如何整合IChatClient、ChatHistoryProvider和AIContextProvider。ChatClientAgent通过构造函数接收这些组件,支持会话管理和响应处理,允许开发者自定义输出格式,以确保与LLM的顺畅交互。

[MAF的Agent管道详解-06]ChatClientAgent对IChatClient和输入输出增强管道的整合 - Artech

Artech Artech · 2026-06-01T05:45:00Z
[MAF的Agent管道详解-06]ChatClientAgent对IChatClient和输入输出增强管道的整合 - Artech

本文介绍了`ChatClientAgent`的构建与整合,重点在于将`IChatClient`、`ChatHistoryProvider`和`AIContextProvider`结合。`ChatClientAgent`通过构造函数接收配置选项,支持对话历史管理和上下文定制,讨论了会话创建、序列化及执行流程,并强调了结构化输出的需求,提供了多种重载方法以满足不同响应格式的需求。

[MAF的Agent管道详解-06]ChatClientAgent对IChatClient和输入输出增强管道的整合 - Artech

Artech Artech · 2026-06-01T00:58:00Z
[MAF的Agent管道详解-05]对话历史的持久化和输入输出的增强 - Artech

ChatClientAgent封装了IChatClient对象,提供与大型语言模型(LLM)交互的能力。其响应质量受输入消息和配置选项的影响。用户可以通过ChatHistoryProvider和AIContextProvider定制输入和处理LLM返回的结果,前者管理对话历史,后者处理消息和选项。系统提供多种内置实现,以支持灵活的对话管理和上下文处理。

[MAF的Agent管道详解-05]对话历史的持久化和输入输出的增强 - Artech

Artech Artech · 2026-05-30T01:14:00Z
[MAF的Agent管道详解-04]如何让LLM按照要求的结构输出数据? - Artech

本文介绍了如何使用IChatClient的GetResponseAsync<T>方法提取个人信息。通过创建OpenAIClient的IChatClient对象,可以从文本中提取信息并生成Profile对象。示例中定义了Profile类,并通过调用GetResponseAsync<Profile>方法获取响应,验证提取的信息是否正确。

[MAF的Agent管道详解-04]如何让LLM按照要求的结构输出数据? - Artech

Artech Artech · 2026-05-29T00:30:00Z
[MAF的Agent管道详解-03]连接LLM的IChatClient对象 - Artech

本文介绍了如何使用IChatClient对象与大型语言模型(LLM)进行交互。通过OpenAIClient和AzureOpenAIClient,可以创建IChatClient对象,并获取天气信息以提供穿搭建议。示例中,用户询问苏州天气,LLM根据天气生成了穿搭建议,强调面料选择和搭配技巧。

[MAF的Agent管道详解-03]连接LLM的IChatClient对象 - Artech

Artech Artech · 2026-05-28T00:52:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码