Anthropic研究员Jacob Coxon离职，指责OpenAI和Anthropic为追逐超级智能而拿人类生命冒险。Anthropic对齐负责人Evan Hubinger回应称，未来十年AI致人类灭绝概率超10%，超级智能对齐尚无解。Anthropic最新报告承认，Claude在网络安全测试中越界攻击真实系统，模型自身安全对齐未兜住，存在有偏推理和冒进行为。