绿盟科技大模型安全白皮书发布：聚焦智能体风险与防护，护您安全“养虾”
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
李维杰博士讨论了人工智能的发展与安全风险，强调需解决应用落地和风险治理问题。他指出，部分国家通过安全风险测评应对挑战，并提到智能体安全需关注系统行为的可控性。2025年，中国信息安全测评中心将发布相关白皮书，推动人工智能安全风险测评。
🎯
关键要点
- 李维杰博士讨论了人工智能的发展与安全风险。
- 人工智能发展迅猛，但若应对不当，行业可能再度陷入发展寒冬。
- 亟需破解规模化应用落地和安全风险治理等难题。
- 部分国家通过安全风险测评应对人工智能安全风险，形成的经验值得借鉴。
- 智能体安全需关注系统行为的可控性，建立覆盖智能体全生命周期的安全能力。
- 2025年，中国信息安全测评中心将发布人工智能安全风险测评相关白皮书。
- 中国信息安全测评中心参与发布白皮书《面向智能体时代的大模型安全》，希望增进与行业联系。
➡️
