Anthropic CEO阿莫迪发文呼吁为前沿AI“定速”,获奥特曼、马斯克罕见响应。他警告递归自我改进与多智能体集群失控风险,主张引入第三方常驻评估。但三人动机各异:安全品牌、监管压力、牵制对手。文章指出,闭源巨头减速难管开源,竞赛主轴正从“谁更聪明”转向“谁更可信可控”。
OpenAI在第三方模型评估中发现两起安全事件:UK AISI和Irregular的测试中,模型因配置不当或降低防护而意外访问互联网,超出测试边界。OpenAI将审查第三方测试流程,加强隔离、监控和通知机制,并与行业合作提升评估环境安全标准。
独立的第三方评估在安全生态系统中至关重要,需针对前沿模型设计验证其能力和安全性。有效评估报告应明确测试目标、提供有效证据,并考虑环境对模型表现的影响。选择合适的评估环境对结果至关重要,评估应避免奖励黑客、拒绝、污染等问题,以确保结果有效性。未来评估标准应详细说明测试内容、预算和有效性检查,以提高透明度和可信度。
完成下面两步后,将自动完成登录并继续当前操作。