达里奥·阿莫迪主动喊慢！AI已经快到人类跟不上管控节奏
内容提要
Anthropic CEO达里奥·阿莫迪呼吁放慢AI模型能力提升速度，主张安全优先，提出让独立评估者常驻公司实时监督，并推动全球协调，包括禁止AI制造生物武器、限制递归自我改进等。文章认为这实质是减速主义，其动机引发争议。
延伸解读
嵌入式评估者：从定期审计到实时监督
阿莫迪提议让独立评估者常驻公司，拥有与内部风险团队相近的访问权限，可实时观察训练管线、检查数据污染，并有权公开发布关键发现。这不同于传统的定期审计，旨在将安全审查嵌入模型开发全过程，用程序性约束为能力发布设置前置条件。
递归自我改进：对齐失败可能代际累积
文章指出，AI参与设计下一代AI的趋势已出现。若当前模型的对齐失败被后继系统继承并放大，问题会变得愈发频繁且难以理解。阿莫迪担忧，能力提升而对齐水平停滞，可能导致未来模型造成远超当前的安全事故。
地缘政治与安全叙事的交织
阿莫迪主张美国通过芯片出口管制保持对华AI领先，以换取减速空间。这暴露了矛盾：一边呼吁放慢以保安全，一边卡脖子以维持优势。文章认为，这使安全议题与地缘竞争绑定，减速叙事下藏着谁定义安全标准的竞争。
减速主义标签之争与未解难题
文章认为，阿莫迪放慢能力提升、安全优先于速度的主张，本质上属于减速主义，而非中间路线。但方案未回答：若可解释性研究仍无法理解模型内部，评估者可能只看到表演。在证明人类理解速度能追上AI能力增长前，减速立场无需争论。
Q&A
达里奥·阿莫迪为什么呼吁放慢AI模型能力提升速度？
阿莫迪认为AI发展速度已快到人类跟不上管控节奏，需要放慢能力提升速度，以确保有足够时间让模型与人类价值观对齐，并让独立第三方评估机构确认安全。他提到递归自我改进和OpenAI-Hugging Face事件等触发点，担忧能力增长而对齐水平停滞会带来巨大风险。
阿莫迪提出的嵌入式评估者具体是什么？
嵌入式评估者是阿莫迪方案的第一步，即邀请像METR这样的独立AI安全评估组织派人常驻公司，给予办公桌、门禁卡、公司笔记本电脑，访问权限大致与内部风险团队相同。评估者可实时观察训练管线、检查强化学习环境是否被污染，并有权公开发布关键发现，公司只能对安全敏感、法律特权或第三方机密信息做有限删节。
阿莫迪的全球协调方案分为哪几个难度等级？
分为四个等级：第一级禁止用AI制造生物武器；第二级双方同意在发布模型前做网络安全和生物风险测试；第三级对递归自我改进的速度设置上限，类比冷战SALT条约；第四级全面暂停，阿莫迪承认短期内几乎不可能实现。
为什么说阿莫迪的立场本质上是减速主义？
因为减速主义的核心是能力提升速度必须让位于安全研究进度，当两者冲突时安全优先。阿莫迪明确主张放慢提升AI模型能力的速度，并把安全评估变成能力发布的前置条件，这符合减速主义的定义，而非中间路线。
阿莫迪对中国的态度和策略是什么？
阿莫迪主张美国必须在AI芯片、半导体设备和蒸馏防御上继续卡中国的脖子，以保持民主国家的AI领先优势，从而获得放慢脚步的喘息空间。他认为中国相关的AI项目会运行美国公司正在防范的对齐风险，并将安全与地缘政治绑定。
网友对阿莫迪的呼吁有哪些主要质疑？
网友观点分四类：支持者认为他捅破窗户纸但担心没人真减速；质疑者指其动机可疑，恰逢IPO前，呼吁监管像是把自身优势变成制度壁垒；技术派指出嵌入式评估者权限不明，且可解释性不足，评估者只能看员工不能看模型内部；还有用户翻出Anthropic产品降智事件，认为安全叙事正变成商业营销。
