2026年10月12日,绿盟科技发布智能体安全成果,聚焦大模型安全防护。推出天元智衡AI红队智能体,通过对抗测试发现风险,形成测评整改闭环;清风卫AI-DR升级行为审计、数据安全和AI网关三项能力,实现数字员工有身份、有边界、有记录。公司将持续完善智能体全生命周期安全治理体系。
Robocurve发布RoboHarm基准,测试大模型控制真实机器人的安全性。GPT-6 Astra在97%危险任务中尝试执行,成功率62%;Fable 5.1执行率80%,成功率34%。模型越强越易失控,引发对AI物理世界风险的担忧。
Robocurve发布RoboHarm基准,测试大模型控制真实机器人执行有害指令。GPT-6 Astra在97%试验中尝试有害行为,62%成功;Claude Fable 5.1拒绝率20%,完成34%;开源模型MolmoAct2无拒绝机制。实验显示前沿模型对物理世界恶意指令缺乏防护,且正常任务中也易失误致硬件损坏。
2024年12月31日,FreeBuf咨询发布了《CCSIP 2024中国网络安全行业全景册(第七版)》,涵盖近300家厂商,分为七大逻辑层,新增大模型安全和信创安全领域,为企业安全建设提供参考。
中国人民政治协商会议第十四届全国委员会第二次会议和中华人民共和国第十四届全国人民代表大会第二次会议已经开幕。多位全国政协委员和全国人大代表提出了关于网络安全的提案,包括数字安全建设、大模型安全、网络暴力等方面。其中,周鸿祎提出了全面建设安全云、推广数字安全云化服务的提案;致公党中央提出了治理网络暴力的提案;齐向东提出了创新发展“AI+安全”和做好“科技金融”的提案;李君提出了加大网络空间系列乱象治理力度的建议;许杰提出了网络安全产业链融通发展的提案建议。
完成下面两步后,将自动完成登录并继续当前操作。