刚刚，Hinton发了首篇RSI论文
内容提要
辛顿等22位学者发表论文探讨AI递归自我改进。Anthropic数据显示，AI自主研发比例半年增长二十余倍，AI正加速进入AI研发流水线。AI研究员可复制、可同步升级，或带来数百万等效劳动力，理论上1.5年内AI进步提速10倍。但算力、数据、实验时间和科研边际收益递减构成现实约束，尚无证据证明智能爆炸已发生。
延伸解读
AI研发自动化的现实进展
论文引用Anthropic数据：2025年1月AI生成获批代码仅低个位数比例，到2026年5月已超80%；2026年3月Claude在高层监督下自主完成约1%的研发工作，8月升至26%，半年增长二十余倍。OpenAI内部AI系统截至2026年9月已能完成人类员工需数天的研发任务。这些数据表明AI正快速进入AI研发流水线，但完全无人监督的自动化尚未实现。
智能爆炸的理论条件与关键变量
论文引入“有效研发劳动力”概念，指出AI研究员可复制、可同步升级，理论上能绕开人类人才培养速度限制。但智能爆炸是否发生取决于研究回报率r：若r足够高，新增研发能力能进一步造出更强AI，反馈环加速；若r低，则收益递减。论文引用历史数据估计r约1.2—1.9，在全面自动化等假设下，AI进步速度可能1.5年内提高10倍。
现实约束：算力、数据与实验时间
即使有数百万AI研究员，算力无法凭空复制，GPU和训练集群有限；互联网高质量数据不会同步增长，合成数据等替代方案尚无定论；实验时间难以无限并行，训练前沿模型仍需数月。此外，科研边际收益递减意味着容易的改进先被找光，后续突破成本更高。这些约束可能使智能爆炸无法启动。
当前证据与未来关注点
论文强调，当前证据远不足以证明智能爆炸已发生。AI研发自动化与智能爆炸之间还隔着可靠性、研发产出提升、成果反哺AI能力等条件。作者提醒，即使未来出现大量AI研究员，也需面对算力、数据、实验时间和科研难度上升等现实墙。因此，RSI已从科幻问题变为需提前准备的现实问题，但不应过度解读现有趋势。
Q&A
Hinton等人发表的RSI论文主要探讨了什么核心问题？
论文探讨了如果AI开始大规模参与研发下一代AI，并形成递归自我改进循环，是否会触发智能爆炸。核心观点是AI已开始进入AI研发流水线，但当前证据尚不足以证明智能爆炸已经发生。
论文中引用了哪些数据说明AI正在加速进入AI研发？
论文引用Anthropic等实验室数据：2025年1月AI生成获批代码仅低个位数比例，2026年5月超过80%；2026年3月Claude在高层监督下自主完成约1%的研发工作，到8月升至26%，半年增长二十余倍。OpenAI内部AI系统截至2026年9月已能经常完成人类需数天的研发任务。
为什么AI研究员相比人类研究员可能带来更快的研发扩张？
AI研究员可以复制，能24小时工作，成千上万个实例同时运行，且底层模型更新后所有实例可同步升级，绕开了人类科研中人才培养速度慢的限制。理论上，一家领先AI公司的现有算力可能支撑至少数百万名顶级人类研究员等价的AI研发劳动力。
论文认为智能爆炸面临哪些现实约束？
主要约束包括：算力无法凭空复制，训练前沿模型需数月；高质量自然数据增长有限，合成数据等替代方案尚无定论；实验时间难以无限并行，共享有限GPU和训练窗口；科研边际收益递减，研究越深入突破越昂贵。
论文中提到的‘有效研发劳动力’是什么概念？
有效研发劳动力指AI达到顶级AI研究员水平后，一家领先AI公司现有算力理论上可支撑的、与顶级人类研究员等价的AI研发劳动力规模，估计可达数百万。这远高于当前前沿实验室几千人的研究团队。
论文对智能爆炸是否已经发生持什么态度？
论文明确表示，当前证据还远远不足以证明智能爆炸已经发生。AI研发自动化带来的生产率提升尚未明确越过引发爆炸式加速的门槛，中间还隔着可靠性、研发产出提升、成果反哺AI能力等一系列条件。
