本文介绍用Python为Agent工具调用构建安全闸门:只读工具自动放行,退款等写操作需一次性审批令牌,所有操作共享累计预算。核心原则是模型只负责提出计划,执行必须在模型外验证白名单、参数、成本与人工批准,并记录审计事件,以防提示注入与令牌重放。
2026年的AI编程界面信息嘈杂,审批请求淹没在工具调用中,用户易盲目点“批准”。作者认为,若界面让人难以理解后果,人类监督便形同虚设,主张界面应保留上下文、突出关键变更,帮助用户维持对系统的连贯理解,而非沦为只会点批准的“肉代理”。
文章以Python示例说明Agent工具调用安全:模型仅建议调用,应用须设白名单、参数校验、预算与人工审批。代码只允许search_kb和draft_email,邮件参数须精确匹配,搜索限3次,允许后仍返回待审批。强调不信任模型输出,适合低风险场景,付款、删数据等须人工确认。
GitHub 动态工作流采用“确定性骨架+概率性节点”模式:用代码固定步骤、依赖、数据格式与审批点,仅将需判断的局部交给 Agent。该模式可重复执行、可观测、可控成本,并支持版本对比与测试。设计时需区分确定性工具、概率性判断和副作用节点,分别处理重试、超时与审批,适用于发布检查、事故研判等重复且失败代价高的任务。
Anthropic 发布 Claude for Financial Advisors,可连接托管、投资组合等金融系统。核心变化是模型置于受权限约束的数据层上,风险会跨系统传播。建议将读取、分析、起草、执行拆为四级权限,默认关闭执行,记录数据来源与时间戳,高风险输出需二人复核,模型只解释差异,金额计算交给确定性代码。
本文介绍Hermes Agent安全架构,强调安全不能仅靠提示模型谨慎,而需多层防护:网关鉴权、工具作用域、命令审批、文件保护与回滚、沙箱隔离及凭据出站代理。各层针对不同威胁,如陌生用户、危险命令、误删文件、代码影响宿主及凭据泄露,无人值守场景需Fail-Closed策略。
Telegram创始人杜罗夫宣布已向ICANN申请自有域名后缀.gram,若获批,所有用户将自动获得与账号绑定的域名(如id7371.gram),由Telegram自行运营。此举或因早前t.me域名被注册局整体封禁所致,自营域名可避免类似问题,仅需按指令封禁特定群组。目前等待审批中。
Channels SDK 是开源工具,让 AI 智能体无缝接入 Slack、Teams 等平台,原生显示按钮卡片,支持审批。它通过 AG-UI 协议翻译消息,长期运行进程保持对话,凭证存本地,配置可让 AI 自动完成。核心价值是让 AI 融入团队工作流,用人类习惯的交互方式协作。
Chat SDK新增审批功能,通过requestApproval调用发送带批准/拒绝按钮的卡片,暂停工作流直至用户决定。支持指定审批人、验证点击签名、超时及审计追踪,无需额外表格或轮询,简化人工审批流程。
Hermes Agent v0.19.0发布,首字响应时间从4.3秒降至0.9秒,桌面流式渲染提速14倍。智能审批默认开启,由独立LLM评审每条命令。集成密码管理器,密钥不落地。网关崩溃时消息不丢,通过账本机制补发。覆盖性能、安全、架构、平台四大维度。
文章讨论了企业文档的安全管理,强调员工安全等级与文档密级匹配的重要性。为防止敏感信息泄露,文档的升降密需严格审批。通过合理的权限设置和审批流程,企业可有效防止越权访问,提升文档保护效率,确保外发可控可溯,符合合规要求。
OpenAI 将 Codex 集成到 ChatGPT 移动端,开发者可通过手机远程控制 Codex,查看任务进度和审批权限。此功能支持多种设备连接,确保安全性并实时传输更新信息。Codex 移动端现已在 iOS 和 Android 上线,适用于所有订阅用户。
Dify 1.14.1版本专注于提升团队协作,允许业务、产品和工程团队在同一画布上实时讨论和调整工作流程。新功能包括可重用的节点配置和更好的工具链集成,支持外部系统参与审批,旨在提高信息流的效率。
本文介绍了如何在Python代理中实现权限控制,使用@requires_approval装饰器确保高风险操作需人类审批。代理在执行任务前会中断流程,显示参数并请求用户确认。这种方法可扩展到生产环境,确保AI代理的安全性和可靠性。
本文介绍了一款适合中小型企业的轻量级物资管理系统。该系统基于WinForm和SQL Server技术,支持多用户登录、物资管理、申领和维护管理,操作简单且数据安全,解决了低成本下的资产管理问题,适合需要规范化管理的单位。
国家发展改革委低空经济发展司回应无人机飞行审批难题,计划推广地方“扫码飞”经验以提高审批效率。无人机需实名登记并提前申报,用户反映执行中存在困难。四川和上海已试点“扫码飞”服务,简化手续。业内建议将部分审批权下放给地方政府,以应对飞行申请激增。
加州初创公司Kintsugi开发了一种AI技术,通过语音检测抑郁和焦虑,但因未能及时获得FDA批准而关闭,并将大部分技术开源。该技术旨在补充传统的自我报告筛查工具,分析语音模式识别心理健康问题。创始人认为,尽管开源可能导致滥用风险,但更大的风险是技术未被充分利用,希望其他人能继续推进并完成FDA审批。
本文介绍了如何在自主代理的工作流程中实现人机协作机制,特别是状态管理中的中断。通过LangGraph库,代理可以在执行过程中暂停,等待人类批准后再继续。文章详细说明了代理状态、节点和工作流程的定义,并展示了在关键时刻暂停执行以便人类审核和批准的重要性,确保高风险场景中的安全性和准确性。
OpenClaw 2026.3.28版本更新引入了插件审批钩子、xAI Responses API和ACP对话绑定等功能,提升了AI的安全性和实时搜索能力。AI在执行操作前需获得用户确认,避免误操作,并可实时获取最新信息,增强互动性。这些改进使AI更可控,适合实际应用。
“AI救狗”事件引发关注,但真正救狗的是科学家和狗主人的努力。狗主保罗通过AI学习和基因测序,研发出mRNA疫苗。尽管AI提供信息,关键在于保罗的资源和社交能力。研究过程复杂,涉及伦理审批,普通人难以复制。这一事件也推动了AI在医疗领域的讨论。
完成下面两步后,将自动完成登录并继续当前操作。