量子位
·
WDTA发布全球首个AI智能体运行安全测试标准，蚂蚁集团、清华大学等联合编制
内容提要
世界数字科学院在联合国发布了全球首个AI智能体运行安全测试标准，旨在提升AI应用的安全性与可信度。该标准由多家机构共同编制，涵盖风险分析和模型检测等方法，以应对AI技术快速发展带来的安全隐忧。
关键要点
-
世界数字科学院在联合国发布全球首个AI智能体运行安全测试标准，旨在提升AI应用的安全性与可信度。
-
该标准由多家机构共同编制，涵盖风险分析和模型检测等方法，针对智能体的行为风险进行全链路风险分析。
-
2025年被称为“智能体元年”，AI智能体的能力使得AI应用逐渐从“我说AI答”转变为“我说AI做”。
-
超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题，许多企业尚未设立智能体安全负责人。
-
WDTA执行理事长强调需建立可执行的安全标准和测评体系，将伦理与责任嵌入AI全生命周期。
-
蚂蚁集团表示单智能体的安全风险缺乏统一标准，单智能体标准是AI治理的“最小可行单元”。
-
AI STR标准提供全流程管理方案，从数据治理到模型落地，助力企业提升AI应用的安全性与可信度。
-
该标准为全球AI智能体生态的安全、可信和可持续发展提供了有益探索，部分标准已在金融、医疗等领域应用。
-
WDTA已发布3项AI STR标准，涉及生成式人工智能、大语言模型和大模型供应链安全要求。
延伸解读
AI智能体的安全挑战
随着AI智能体技术的快速发展，安全隐忧日益突出。超过70%的从业者担忧AI幻觉和错误决策等问题，这表明行业在技术应用上仍需加强安全管理。企业应重视智能体安全负责人角色的设立，以应对潜在风险。
全链路风险分析的重要性
新发布的AI STR标准首次建立了全链路风险分析框架，将智能体的输入输出与运行环境相结合。这种方法有助于全面识别和评估智能体的行为风险，为企业提供更为系统的安全保障。
未来的智能体治理趋势
蚂蚁集团指出，单智能体的安全标准是AI治理的“最小可行单元”，未来应向多智能体治理发展。这一转变将是构建更复杂AI生态系统的基础，行业需提前布局以应对未来挑战。
延伸问答
AI智能体运行安全测试标准的主要目的是什么？
该标准旨在提升AI应用的安全性与可信度。
哪些机构参与了AI智能体运行安全测试标准的编制？
参与机构包括蚂蚁集团、清华大学、中国电信等二十余家国内外机构、企业及高校。
2025年被称为什么，为什么？
2025年被称为“智能体元年”，因为AI智能体的能力使得AI应用从“我说AI答”转变为“我说AI做”。
AI STR标准与其他国际标准有什么不同之处？
AI STR标准不仅关注风险识别和分级，还提供全流程管理方案，从数据治理到模型落地。
当前AI智能体从业者面临哪些安全隐忧？
超过70%的从业者担忧AI幻觉、错误决策和数据泄露等问题。
WDTA执行理事长对AI安全标准的看法是什么？
他强调需建立可执行的安全标准和测评体系，将伦理与责任嵌入AI全生命周期。
