量子位
·
WDTA发布全球首个AI智能体运行安全测试标准，蚂蚁集团、清华大学等联合编制
💡
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
世界数字科学院在联合国发布了全球首个AI智能体运行安全测试标准，旨在提升AI应用的安全性与可信度。该标准由多家机构共同编制，涵盖风险分析和模型检测等方法，以应对AI技术快速发展带来的安全隐忧。
🎯
关键要点
- 世界数字科学院在联合国发布全球首个AI智能体运行安全测试标准，旨在提升AI应用的安全性与可信度。
- 该标准由多家机构共同编制，涵盖风险分析和模型检测等方法，针对智能体的行为风险进行全链路风险分析。
- 2025年被称为“智能体元年”，AI智能体的能力使得AI应用逐渐从“我说AI答”转变为“我说AI做”。
- 超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题，许多企业尚未设立智能体安全负责人。
- WDTA执行理事长强调需建立可执行的安全标准和测评体系，将伦理与责任嵌入AI全生命周期。
- 蚂蚁集团表示单智能体的安全风险缺乏统一标准，单智能体标准是AI治理的“最小可行单元”。
- AI STR标准提供全流程管理方案，从数据治理到模型落地，助力企业提升AI应用的安全性与可信度。
- 该标准为全球AI智能体生态的安全、可信和可持续发展提供了有益探索，部分标准已在金融、医疗等领域应用。
- WDTA已发布3项AI STR标准，涉及生成式人工智能、大语言模型和大模型供应链安全要求。
➡️
