DigitalOcean 的 Action Gateway 用于治理 AI 代理对外部工具的调用：模型提出请求不等于授权，网关先解析调用者身份与工具，再按策略允许、拒绝或要求人工审批；审批绑定具体参数并在执行前复核。凭证不进入模型上下文，连接可撤销；重试区分安全读取与不确定写入，避免重复操作。

文章以Python示例说明Agent工具调用安全：模型仅建议调用，应用须设白名单、参数校验、预算与人工审批。代码只允许search_kb和draft_email，邮件参数须精确匹配，搜索限3次，允许后仍返回待审批。强调不信任模型输出，适合低风险场景，付款、删数据等须人工确认。

AI安全本质是工程问题，需明确需求、可执行控制、责任人和验证证据。智能体栈各层均需防护，运行时须独立限制文件、网络与进程，赋予可追溯身份和最小权限，关键操作需人工审批。部署前应测试越权、数据外泄等场景，失败须复现修复并转为回归测试。开源工具与共享研究有助于防御者持续加固系统。

Velorn是一款基于Electron构建的开源AI视频编辑器，通过本地MCP服务器让AI代理（如Claude Code）操作时间线，支持生成、编辑、字幕和导出。其核心设计是“先预览后执行”，要求人工审批关键操作以避免错误。项目定位为ComfyUI的生产层，但AI仍缺乏创作理解，需人类监督，效率提升有限。

通过ApprovalRequiredAIFunction为敏感工具引入人工审批，构建合规的MAF人机协作智能体。核心内容包括高低风险工具的区分、审批循环处理及流式响应，适用于IT运维和银行转账等场景。

微软Agent Framework结合AI代理与人工审批，确保AI安全调用外部函数，防止误操作。高风险操作需人工审批，适用于金融和医疗行业，保障企业核心资产安全。

本文介绍了如何使用Microsoft Agent Framework创建具有人工审批功能的终端助手Agent，展示了执行命令和审批的示例，强调了人工审批在敏感操作中的重要性。该框架支持Python和.NET，灵活构建AI应用，完整代码已上传至GitHub。

无服务器计算改变了应用程序的构建和部署方式。AWS Step Functions结合SDK集成，提供了设计有状态、长时间运行工作流的解决方案。本文介绍了如何构建一个包含重试和人工审批步骤的订单履行工作流，以确保流程的稳健性和错误处理能力。