2026 人工智能产业大会 | 绿盟科技多项智能体安全实践成果出圈
内容提要
2026人工智能产业大会10月在济南举办，绿盟科技参会展示AI安全成果：智能安全运营平台ASOC入选AIIA先锋实践，参与编制工信领域AI安全评测框架；天元实验室李文瑾提出“以模治模”理念，以AI红队自动化对抗测试应对智能体概率性风险，并介绍天元智衡AI红队评估平台，覆盖提示词注入、越狱、数据泄露等风险，形成测评—修复—复测闭环。
延伸解读
智能体风险升级：从内容合规到系统控制
文章指出，智能体已从单纯对话演进到自主调用工具、访问系统，安全风险随之从内容合规层面升级至系统控制层面，并呈现组合性强、路径动态化、结果概率化等新特征。这意味着传统安全测试方法难以有效覆盖此类风险，企业需要重新评估智能体上线前的安全验证方式，不能仅依赖内容过滤或静态检查。
“以模治模”的实践逻辑：用工程确定性应对概率不确定性
绿盟科技天元实验室李文瑾提出“以模治模”理念，核心是以AI红队对抗测试为手段，通过自动化大规模对抗，将隐蔽的概率风险转化为可量化的安全账本。其价值在于让AI风险在上线前实现可见、可评估、可分析、可验证，而非依赖人工经验判断。这一思路为智能体安全治理提供了可操作的工程化路径。
天元智衡平台的能力边界与闭环设计
天元智衡平台面向大语言模型及AI应用，模拟真实攻击手法，覆盖提示词注入、越狱绕过、数据泄露、越权访问、无界消耗、供应链投毒等风险类型，并提供标准测评、多轮越狱探测、RAG投毒测评、MCP风险扫描等能力。平台以攻击成功率为核心量化指标，输出证据链与修复建议，形成“测评—修复—复测”闭环，支撑上线前评估与上线后持续复测。
标准参编与案例入选：安全实践获行业认可
绿盟科技参编了《工业和信息化领域人工智能安全评测框架（2026版）》，其ASOC平台案例入选AIIA先锋实践智能体专项优秀实践。这两项进展表明，智能体安全评测正从企业实践走向行业标准与官方认可，参编框架和案例入选也反映出安全合规与技术创新并重的趋势，为同类企业提供了可参考的实践样本。
Q&A
绿盟科技的ASOC平台在2026人工智能产业大会上获得了什么认可？
绿盟智能安全运营管理平台（ASOC）的“面向电信行业的主动防御与智慧运营基座”项目案例入选了“AIIA先锋实践智能体专项优秀实践”，体现了官方对其在技术创新、模式创新、应用实效、安全合规等方面的认可。
绿盟科技参与编制了哪个AI安全评测框架？
绿盟科技作为参编单位参与了《工业和信息化领域人工智能安全评测框架（2026版）》的编制，该框架由工业和信息化部网络安全管理局指导、中国人工智能产业发展联盟牵头联合相关单位编制，旨在提升工信领域人工智能安全评测和保障能力。
李文瑾提出的“以模治模”治理理念具体指什么？
“以模治模”是以AI红队对抗测试为核心，用工程确定性应对概率不确定性，通过自动化大规模对抗将隐蔽的概率风险转化为可量化的安全账本，让AI风险在上线前实现可见、可评估、可分析、可验证。
智能体安全风险有哪些新特征，为什么传统测试方法难以覆盖？
随着智能体从对话演进到自主调用工具、访问系统，安全风险从内容合规升级至系统控制层面，呈现组合性强、路径动态化、结果概率化等新特征，因此传统安全测试方法难以有效覆盖。
天元智衡AI红队评估平台能检测哪些风险类型？
平台覆盖提示词注入、越狱绕过、数据泄露、越权访问、无界消耗、供应链投毒等风险类型，并可对提示词注入、越狱、数据泄露等风险进行测评。
天元智衡平台如何形成安全闭环？
平台支持多种使用方式，形成“测评—修复—复测”的完整闭环，支撑AI应用上线前安全评估与上线后持续复测。
