Jeff Dean李飞飞最新对谈：全是RSI非共识
内容提要
Jeff Dean与李飞飞对谈，介绍其新公司Discovery Loop：通过自动化实验循环加速机器学习、科学与工程研究，让少量专家带领大量智能体，目标将专家生产力提高20至50倍。他认为递归自我改进受物理过程限制，不可能无限快，并反思自己低估了编程能力对模型的重要性。
延伸解读
RSI的物理边界：自动化能提速，但无法无限快
Jeff Dean对递归自我改进（RSI）的讨论提供了一个务实的判断框架：自动化系统可以消除人工等待、及时决策，但训练、计算、数据保存与评估仍需真实时间。他举例说，实验凌晨2点结束，人等到早上8点才看结果，自动化能省掉这段等待，却无法让物理过程本身无限加速。这提醒读者，RSI的讨论应区分“减少人为延迟”与“突破物理极限”，后者并不现实。
Discovery Loop的路径：数字闭环优先，物理实验暂缓
新公司并非泛泛瞄准所有科学问题，而是先聚焦机器学习研究、机器学习工程和硬件设计这三个可在数字环境完成全循环的领域。Jeff Dean明确表示，涉及物理实验的领域提速更困难，医疗健康虽是其长期兴趣，但并非当前重点。这种选择说明，自动化发现循环的短期价值取决于实验能否完全在数字世界闭环，读者可据此判断哪些领域更可能先受益。
被低估的编程能力：从辅助技能到模型通用能力的关键
Jeff Dean反思，在Gemini项目中编程虽是关注方向之一，但他没有充分预见这项能力会如此深刻地影响模型解决各种问题的能力。这一判断对理解当前模型能力演进有参考价值：编程不只是代码生成任务，还可能成为模型进行逻辑推理、工具使用和复杂问题求解的通用基础。读者在评估模型能力时，可留意编程表现与通用问题解决能力之间的关联。
数学自动化的局限：证明可被机器检查，优雅方法仍需人类提炼
谈及AI做数学，Jeff Dean认可机器生成证明的价值，但更看重人类能否从中理解并提炼出可继续使用的方法。他指出，有些证明是长达500页的Lean代码，机器可以检查，人们却还不太理解如何以优雅、简洁的方式得到结果。这说明AI在数学上的进展不等于人类数学理解的同步提升，读者应关注机器证明能否转化为可复用的数学工具，而非仅看问题是否被解决。
Q&A
Jeff Dean的新公司Discovery Loop主要做什么？
Discovery Loop的使命是构建AI系统，自动解决机器学习、科学与工程领域的重要问题。其核心思路是将科学实验循环自动化，通过缩短每轮迭代时间、自动提出并运行大量实验，从评估中学习，从而加速研究发现。公司目标是将领域专家的生产力提高20到50倍。
Jeff Dean为什么认为递归自我改进（RSI）不可能无限快？
Jeff Dean指出，RSI涉及真实的物理过程：计算机需要运行计算、保存数据、评估结果，再由另一个模型分析并决定下一步。这些步骤都需要时间，不可能以无限快的速度完成。自动化系统可以省去人工等待（如凌晨实验结束等到早上才查看），但训练和实验本身仍需大量时间。
Jeff Dean如何定义自我改进和递归自我改进？
自我改进是指系统针对一个可测量的目标（如模型准确率），尝试不同方法（如架构）来提升指标。递归自我改进则是将同样的自我改进方法作用于负责提出改进方案的基础系统本身，即改进“提出实验方案的系统”。
Discovery Loop目前聚焦哪些领域？为什么？
目前聚焦三个领域：机器学习研究、机器学习工程和硬件设计。因为这些领域的整个实验循环可以在数字环境中完成，更适合加速；团队在这些方向有经验，且这些工作能帮助开展其他研究（如医疗健康、材料科学）。
Jeff Dean反思自己低估了哪项能力对模型的重要性？
他低估了编程能力对模型解决各种问题的重要性。在Gemini项目中，编程虽是关注方向之一，但他没有充分预见这项能力会如此深刻地影响模型解决多种问题的能力。
Discovery Loop如何组织专家与智能体协作？
公司搭建了支持人和Agent共同工作的协作框架（agent harness），可让少量领域专家带领大量智能体做研究。框架支持与模型对话、邀请同事加入共同交流、对方案发表评论等协作功能，基础设施面向数万乃至数十万个智能体执行任务而构建。
Jeff Dean对AI解决数学问题有什么看法？
他认可机器生成证明的价值，但更看重人类能否从这些结果中理解并提炼出可继续使用的方法。他指出，优雅的解法常能带来可用于其他问题的好方法，而目前很长的机器生成证明还未必呈现清晰优雅的方法。知道问题可解本身也有价值，能激励人们寻找更优雅的解法。
