量子位
·
翁荔新博客提出「自进化先从Harness开始」，DeepSeek崔添翼转发附议
内容提要
翁荔在博客中探讨了AI自进化的路径，提出“Harness”作为关键概念，强调模型如何优化自身的运行系统。她分析了递归自我改进（RSI）的工程化过程，指出自我改进不仅限于模型权重的修改，还包括优化训练和部署流程。通过上下文管理和工作流设计，模型能够更有效地执行任务并持续迭代，同时也提到评估器的局限性和负面结果的忽视。
关键要点
-
翁荔在博客中探讨AI自进化的路径，提出'Harness'作为关键概念。
-
Harness是模型外部的运行系统，决定模型如何调用工具、管理上下文等。
-
递归自我改进（RSI）不仅限于模型权重的修改，还包括优化训练和部署流程。
-
优化对象正在从上下文、工作流深入到Harness本身，形成递进链条。
-
Context Engineering和Workflow Design是自我改进的两个重要层面。
-
Self-Improving Harness允许模型分析并提出对Harness的修改。
-
评估器的局限性和负面结果的忽视是实现RSI的瓶颈。
-
人类在AI自进化中应提供监督，而不是被排除在外。
-
Harness的改进可能会被内化进模型本身的行为中，成为未来的重点讨论。
延伸解读
Harness的关键作用
翁荔提出的Harness概念，强调了模型外部运行系统在自我改进中的重要性。Harness不仅决定了模型如何调用工具和管理上下文，还影响模型的任务执行效率。理解Harness的设计和优化，将有助于提升AI系统的整体表现。
自我改进的工程化路径
文章中提到的递归自我改进（RSI）并不局限于模型权重的调整，而是包括训练和部署流程的优化。这种工程化的思路为AI自我改进提供了更为实际的路径，尤其是在复杂任务中，优化工作流和上下文管理显得尤为重要。
评估器的局限性
翁荔指出，当前评估器的弱点和模糊性是实现自我改进的瓶颈。许多成功的自我改进案例往往集中在有明确反馈的任务上，而在创新性和长期价值的评估上，缺乏有效的量化标准，这可能导致模型在复杂任务中表现不佳。
人类的监督角色
翁荔强调，人类在AI自进化过程中并非被排除，而是应在适当的时机提供监督。这种监督不仅能帮助模型避免潜在的错误，还能确保系统设计的合理性，促进AI技术的健康发展。
延伸问答
什么是Harness，它在AI自进化中扮演什么角色？
Harness是模型外部的运行系统，决定模型如何调用工具、管理上下文等，是AI自进化的关键概念。
递归自我改进（RSI）具体指的是什么？
递归自我改进（RSI）指的是智能系统能够改进自身智能产生机制，从而生成更强的后继系统。
翁荔提到的Context Engineering和Workflow Design有什么区别？
Context Engineering关注如何管理上下文，而Workflow Design则解决模型如何执行任务的流程。
自我改进的Harness如何进行提案验证？
提案验证需要经过测试确认修改确实提升表现且没有引入明显回归，才能成为下一版Harness的一部分。
在AI自进化中，人类的角色是什么？
人类应在合适的时机和抽象层级上提供监督，而不是被排除在外。
Harness的改进可能会对模型产生什么影响？
Harness的改进可能会被内化进模型的行为中，成为未来讨论的重点。
