MAF快速入门(6)混合编排工作流

MAF快速入门(6)混合编排工作流

💡 原文中文,约15100字,阅读约需36分钟。
📝

内容提要

本文介绍了Executor与Agent的混合使用,重点讲解了内容审核工作流案例。通过结合这两者,实现数据验证与AI智能决策,确保内容安全,最终能够检测提示词越狱并发送警报。

🎯

关键要点

  • 本文介绍了Executor与Agent的混合使用,重点讲解了内容审核工作流案例。
  • Executor通常用于覆盖确定性的业务逻辑,如数据验证和数据清洗,而Agent用于AI智能决策场景。
  • 内容审核流程中结合Executor和Agent构建完整工作流,检测提示词越狱并发送警报。
  • 创建.NET控制台应用程序并安装必要的NuGet包以进行实验。
  • 定义数据传输模型,包括检测结果、用户请求结果和邮件发送DTO。
  • 定义自定义事件JailbreakDetectedEvent,表示检测到提示词越狱攻击。
  • 用户输入Executor接收并存储用户问题,业务逻辑处理Executor进行数据清洗和验证。
  • 实现String to ChatMessage的适配器以便后续Agent处理。
  • 提示词攻击检测Agent通过调用Agent进行提示词攻击检测,并发送自定义事件。
  • 最终内容回复Agent生成工作流的最终输出内容,根据检测结果进行不同的回复。
  • 构建工作流的步骤包括获取ChatClient、实例化自定义Agent和Executors、创建工作流。
  • 测试工作流的用例包括正常问题和提示词越狱攻击,分别验证其处理结果。
  • 总结了Executor和Agent的应用场景及混合使用的重要性,提供了内容安全审核的工作流案例。

延伸问答

Executor和Agent的主要区别是什么?

Executor用于处理确定性的业务逻辑,如数据验证和清洗,而Agent用于AI智能决策,具有不确定性。

如何构建一个混合编排的工作流?

构建工作流的步骤包括获取ChatClient、实例化自定义Agent和Executors、创建工作流并添加边缘连接。

内容审核工作流是如何检测提示词越狱的?

内容审核工作流通过Agent进行提示词攻击检测,并在检测到越狱时发送警报和邮件通知管理员。

在混合编排工作流中,如何处理用户输入?

用户输入通过Executor接收并存储,随后进行数据清洗和验证处理。

如何定义数据传输模型?

数据传输模型包括DetectionResult、UserRequestResult和EmailMessage,分别用于存储检测结果、用户请求结果和邮件发送信息。

在工作流中如何处理检测到的越狱事件?

检测到越狱事件后,会发送自定义事件并通过邮件通知系统管理员。

➡️

继续阅读