大型科技公司的AI放缓：安全协议还是卡特尔？
内容提要
OpenAI、Anthropic等AI巨头口头同意放缓前沿AI研发，提议引入第三方审计、监管本土实验室并达成全球减速协议。批评者认为此举是以安全为名遏制竞争、打压开源，形同卡特尔；支持者视为安全进展，但担忧沦为“安全洗白”。最大障碍是中国：美方担心中国不配合。核心风险是AI递归自我改进，业界忧其或于2027年前后失控。
延伸解读
安全协议还是卡特尔？动机争议
OpenAI、Anthropic等公司口头同意放缓AI研发，批评者认为这是以安全为名遏制竞争、打压开源，形同卡特尔。支持者则视其为安全进展，但担忧沦为“安全洗白”。文章指出，真相更复杂：该提议包含第三方审计、监管本土实验室等长期主张，但在特朗普政府下实质性监管不太可能，因此可能成为监管替代品。
中国因素：全球减速的最大障碍
AI领导人和政客常以中国为理由反对放缓，认为中国不会配合。文章提到，中国外交部发言人郭嘉昆驳斥了放缓呼吁，称其是“散布恐慌”。专家认为，即使没有中国合作，美国内部协调仍至关重要，但中国被当作行业逃避监管的“妖怪”反复提及。
递归自我改进：核心风险与时间线
递归自我改进（RSI）指AI能无需人类干预自我训练和升级。Anthropic称可能最早2027年初实现，OpenAI也投入大量资源。业界担忧RSI会带来更严重的网络安全事件等风险。Amodei提议对RSI速度设限，类似导弹数量上限。多位研究员警告其危险性，认为可能威胁人类生存。
自愿承诺的局限与监管前景
专家普遍认为，自愿框架易沦为监管俘获，缺乏约束力。特朗普表示AI唯一需要的“护栏”是“强大而聪明的总统”，并称AI担忧是“骗局”。在无政府监管的情况下，最佳选择可能是推动可测量、可执行的协议，如让审计员访问计算预算并承诺减少研究算力。
Q&A
大型科技公司提出的AI放缓协议具体包括哪些措施？
该协议包括三步：引入第三方审计员嵌入AI实验室、监管本土实验室，以及达成全球放缓协议。这些措施旨在“pace the frontier”，即控制前沿AI的发展速度。
为什么有人批评AI放缓协议是卡特尔行为？
批评者认为，AI巨头以安全为名，实则想阻止潜在竞争对手、打压开源运动，并避免真正的法律监管。他们指出，这类似于大型科技公司过去通过自我监管来抢先制定有利于自己的规则，是一种“安全洗白”。
AI行业对放缓协议的支持和质疑主要有哪些？
支持者认为这是安全方面的进步，如Apollo Research CEO称其为“好事”，Redwood Research CEO表示“谨慎乐观”。但质疑者担心协议缺乏约束力，可能沦为“安全洗白”，无法真正减缓AI发展速度。
AI放缓协议面临的最大国际障碍是什么？
最大障碍是中国。美国担心中国不会配合放缓AI研发，因此不愿单方面减速。中国外交部发言人郭嘉昆曾反驳称这种呼吁是“散布恐惧”。
什么是递归自我改进（RSI），为什么它引发担忧？
RSI是指AI模型能够在无人类参与的情况下自我训练、进步并创建新版本。Anthropic表示这可能最早在2027年初实现。业界担忧RSI会导致更严重的网络安全事件，甚至可能失控，因此必须谨慎对待。
AI研究人员对AI可能灭绝人类的风险有多担忧？
许多前沿AI公司的研究人员认为AI可能导致人类灭绝。例如，Anthropic研究员Evan Hubinger认为未来十年内概率超过10%，OpenAI研究员Micah Carroll称这是跨党派共识，认为“一切照旧的AI发展会带来不可接受的灾难性风险”。
