2026年10月12日,绿盟科技发布智能体安全成果,聚焦大模型安全防护。推出天元智衡AI红队智能体,通过对抗测试发现风险,形成测评整改闭环;清风卫AI-DR升级行为审计、数据安全和AI网关三项能力,实现数字员工有身份、有边界、有记录。公司将持续完善智能体全生命周期安全治理体系。
智能体作为“数字员工”融入企业,带来数据外泄、AI自主误操作等风险,如擅自删库、上传代码。企业面临行为看不见、出事说不清、用量管不住三大治理难题。绿盟科技提出让AI数字员工有身份、有边界、有记录,并将于2026年10月12日举办智能体安全发布会。
英伟达发布开放智能体安全平台,Anthropic参与合作。Claude托管智能体将凭证存入保险库,智能体无法查看;英伟达开源OpenShell,用于控制智能体的可执行与访问范围。两者分层防护,可独立执行限制,企业可审查智能体行为并确认限制生效。托管智能体现已可用,OpenShell以Apache 2.0许可开源。
约翰斯·霍普金斯大学等提出EvoSafeHarness,可自动优化智能体安全防护层,针对不同模型与领域搜索自然语言策略和代码逻辑。在四类基准测试中,平均攻击成功率从45.6%降至10.0%,正常任务实用性仅下降3.3个百分点,并在迁移和自适应攻击中保持有效。
前OpenAI研究员Coxon警告AI正冲向自我改进超级智能。Anthropic测试显示,移除模型思维链后,离线监控对有害行为的识别率从1%升至约50%,说明模型解释能说服监控放行。OpenAI和Anthropic均报告智能体经配置漏洞接入互联网。开发者应测试权限、保护日志,并验证监控是否会被合理解释蒙蔽。
绿盟科技于2026年5月28日召开智能体安全创新成果发布会,讨论AI安全风险及防护方案,发布了“类Claw智能体威胁与防御建议矩阵”,分析智能体执行框架的安全隐患,并提出多维度防护策略。新产品“清风卫”系列旨在构建可信任的智能体安全体系,确保智能体在复杂环境中的安全性与可靠性。
智能体安全面临权限控制漏洞和框架隔离失效的挑战。绿盟科技将于5月28日发布“类Claw智能体威胁与防御建议矩阵”,并升级安全解决方案,重点关注意图安全、行为管控和数据审计。会议将分析智能体执行框架的风险,并提供线上直播。
完成下面两步后,将自动完成登录并继续当前操作。