Anthropic CEO阿莫迪发文呼吁为前沿AI“定速”，获奥特曼、马斯克罕见响应。他警告递归自我改进与多智能体集群失控风险，主张引入第三方常驻评估。但三人动机各异：安全品牌、监管压力、牵制对手。文章指出，闭源巨头减速难管开源，竞赛主轴正从“谁更聪明”转向“谁更可信可控”。

AI技术存在生成虚假信息和推理错误等可靠性问题，可能导致严重后果。AI智能体的自主性增加了失控风险，尤其在金融和能源管理等关键领域。决策者需权衡AI的益处与风险，确保透明度和责任归属。目前技术尚无法确保AI的高度可靠性，需进一步研究以提高安全性和稳定性。