内容提要
2026年乌镇峰会聚焦AI安全治理。绿盟科技参会,李文瑾指出智能体风险已升至系统执行层,需从“模型可信”转向“行为可控”,并分享三层测试框架与五维行为模型;张铭介绍“智慧安全4.0”及AI治理实践。其参与的通信网络安全弹性防御项目获领先科技奖。
延伸解读
智能体安全重心为何转向“行为可控”
文章指出,AI已从简单问答演进为可工具调用、系统交互的自主智能体,风险从内容合规升级到系统执行层面。李文瑾列举网关缺鉴权、多通道提示注入、插件供应链投毒、沙箱隔离失效等新型风险,并强调插件成为关键新增攻击面。这意味着仅评估模型输出是否可信已不够,还需对智能体调用工具、访问系统、跨通道交互的完整行为链路进行管控,安全重心因此从“模型可信”转向“智能体行为可控”。
三层测试框架与五维模型的实际抓手
绿盟科技提出三层安全测试框架与五维行为风险模型,从“大脑、手、权限、关系、记忆”拆解智能体行为链路,并构建“事前—事中—事后”动态控制闭环:事前核验身份、落实最小权限;事中感知意图、实时管控;事后留存行为链路、复盘迭代防御。对读者而言,这套框架的价值在于把抽象的智能体安全拆成可测试、可审计、可复盘的环节,尤其适合云端、桌面、移动端等真实场景的众测与风险发现。
AI治理落地依赖标准与产业共治
张铭在演讲中提到,全球主要经济体正并行探索人工智能立法与治理框架,国内围绕“促发展、保安全”构建政策法规与标准协同推进的体系,治理规则加快向智能体时代延伸。绿盟科技深度参与多项人工智能与智能体安全标准研制,并强调AI治理落地离不开产业共治。这表明企业AI治理不能只靠单点产品,还需对接标准、参与生态协作,将安全运营、攻防实践、数据安全、智能体安全等方向纳入统一治理实践。
领先科技奖背后的威胁检测闭环
获奖项目“超大规模通信网络安全弹性防御关键技术及应用”由中国移动牵头,中移杭研、清华大学、绿盟科技和卓望数码联合参与,从43个国家和地区436项申报成果中入选全球仅20项的领先科技奖。文章指出,当前高级威胁隐蔽性强、攻击链路复杂,海量异构告警放大研判压力。绿盟科技融合安全垂直大模型与多智能体分析能力,实现威胁检测、分析、溯源、取证的闭环智能化,这为理解其技术实力和产学研协作价值提供了具体参照。
Q&A
2026年世界互联网大会乌镇峰会的主题是什么?
本届峰会以“开源开放 共建共享——携手构建网络空间命运共同体”为主题,汇聚全球政产学研各界力量,共议人工智能时代的技术趋势与安全治理。
绿盟科技在2026年乌镇峰会上获得了什么奖项?
绿盟科技参与的“超大规模通信网络安全弹性防御关键技术及应用”项目荣获“世界互联网大会领先科技奖”。该项目由中国移动牵头,中移杭研、清华大学、绿盟科技和卓望数码联合参与,从43个国家和地区的436项申报成果中脱颖而出,全球仅20项成果入选。
李文瑾指出的智能体安全风险有哪些新变化?
李文瑾指出,AI已从简单问答演进至可工具调用、系统交互的自主智能体,安全风险由内容合规层面升级到系统执行层面。新型风险包括网关缺鉴权、多通道提示注入、Skill/MCP插件供应链投毒、沙箱隔离失效等,插件正成为智能体的关键新增攻击面。安全重心需从“模型可信”转向“智能体行为可控”。
绿盟科技提出的三层安全测试框架和五维行为风险模型具体是什么?
三层安全测试框架与五维行为风险模型从“大脑、手、权限、关系、记忆”五个维度拆解智能体行为链路,构建“事前—事中—事后”动态Agent控制闭环:事前核验身份、落实最小权限;事中感知意图、实时管控;事后留存行为链路、复盘迭代防御。
绿盟科技的“智慧安全4.0”技术理念是什么?
“智慧安全4.0”以智能原生重构安全能力,持续进化对抗新型威胁,自主运营提升体系效能,实现企业数智发展的安全与韧性。理念指引下的AI治理实践已覆盖安全运营、攻防实践、数据安全、智能体安全等方向。
绿盟科技在AI治理方面有哪些落地实践成果?
绿盟智能渗透系统(AI-PTS)斩获首张人工智能渗透测试系统(增强级)检测证书;AI智能体安全防护方案集意图识别、行为围栏、权限细化、Skills审计、供应链安全于一体,搭建覆盖智能体全生命周期的纵深防线。此外,绿盟科技还深度参与多项人工智能与智能体安全标准研制。