MAF快速入门(6)混合编排工作流
📝
内容提要
这是一个内容审核管道工作流,假设我们提供了一个AI对话服务,我们需要针对用户给出的对话内容或者提示词做检测,如果检测到提示词越狱(Jailbreak)就输出指定回复而不再继续;可以看见,对于有攻击的提示词检测结果为DETECTED,AI回复了指定内容并给出了原因(因为包含不安全的内容),并且还通过发布事件由监控订阅发送了Email通知管理员。这里我们弄了一个文本的倒序Executor,仅仅演...
🏷️
标签
➡️