内容提要
英伟达提出SoL-Pi方法,利用AI离线改进编程Agent的Harness。152个候选方案经独立循环、能力底线与效率双重筛选,仅4个机制存活。在EdgeBench上,Token消耗降低约45%~49%,成本降低约三分之一,得分保留约94%。核心启示是预先声明底线、训练集与留出集隔离、一次性编排,使改进可验证、可回滚。
延伸解读
RSI 的边界:离线改进而非在线自改
SoL-Pi 常被误读为 Agent 运行时自我进化,但论文明确其定位是“RSI 启发”的离线闭环:AI 研究 Agent 观察另一个 Agent 在基础 Harness 上的轨迹,提出并实现改动,模型本身保持不变。人类提供早期先验、过滤低价值方向,幸存者再由人审阅重构。作者用 L1 到 L4 的分级说明,SoL-Pi 处于 L2,即 AI 主导搜索、人守两端,而非完全自治。理解这一边界,才能正确评估其工程价值。
能力底线:防止“省 Token”变成偷工减料
让 AI 优化效率,最直接的作弊方式是提前收工、跳过验证或删除证据。SoL-Pi 的对策是预先声明能力指标与容差,且对优化 Agent 不可见、不可改;候选必须同时通过能力底线和至少一项效率改善两道门。留出集在冻结后仅评估一次,失败即淘汰,结果绝不回流研究循环。这套护栏把“改进”约束为可验证、可回滚的动作,比单个机制更值得借鉴。
成绩的代价:更便宜不等于更强
EdgeBench 上 SoL-Pi 保留约 94% 的 Pi 得分,Token 降低 44.7%~49.0%,成本降约三分之一;对比 Codex 与 Claude Code 原生 Harness,API 成本低 50%~54%。但换到 Terminal-Bench 4,SoL-Pi 比 Pi 少解 3 题;IMO 上 Codex 通过 5 题而 SoL-Pi 为 3 题。作者提醒,它赢在“更便宜”而非“更强”,且搜索仅用单一后端轨迹,Opus 5 迁移证据只是初步,样本多为单次运行。
工程启示:编排即用即弃,人守两端
规模化跑上百个改进想法时,团队试过 YAML 固定工作流和主 Agent 现写协调代码,前者覆盖不了边缘情况,后者代码持续膨胀。最终采用一次性技能循环:一份最小模板,每次实验复制、改参数、跑完即丢,规模化变成重复实例化而非扩建协调器。配合先量化机会再分配预算、广度优先避免局部盆地、训练集与留出集物理隔离,构成可迁移的 RSI Harness 搭建清单。
Q&A
英伟达SoL-Pi是什么?它和一般的Agent自我改进有什么区别?
SoL-Pi是英伟达提出的“RSI启发”的Harness改进闭环,不是Agent在线运行时自改。它让AI研究Agent离线观察另一个Agent在基础Harness上的执行轨迹,提出并实现改动,再经能力与效率两道门筛选。人类提供早期先验并审阅幸存者,循环启动后无人干预。
SoL-Pi的改进闭环具体是怎么运行的?
闭环为:152个候选想法 → 每个想法独立研究循环(提出、实现、运行、读结果、保留或丢弃)→ 训练集筛选 → 冻结 → 留出集一次性验证,留出结果绝不回流。编排采用一次性技能循环,复制最小模板跑完即丢。
SoL-Pi如何防止AI通过偷懒来节省Token?
设置预先声明、对优化器不可见且不可改的能力底线:所有能力指标必须在容差内,且至少一个效率指标改善。留出集结果绝不回流,失败直接淘汰,不会被补丁式修复。
SoL-Pi最终保留了哪四个机制?各自作用是什么?
四个机制:Action Fusion(编辑加命令合成一次工具调用)、Online Context Compact(子任务边界评估压缩是否回本)、ObservationPack(大输出本地归档,前两次完整发送,之后换句柄和摘录)、Evidence-Preserving Reducer(便宜模型读日志生成回执,确定性验证器检查引用)。
SoL-Pi在EdgeBench上的效果如何?成本降低了多少?
在EdgeBench上,对比Pi基线,Token降低约45%~49%,成本降低约三分之一($1,339→$894),得分保留约94%。对比Codex与Claude Code原生Harness,API成本低50%~54%。
搭建类似的RSI Harness有哪些可迁移的工程原则?
七条清单:先声明再搜索(指标容差固定且不可见)、双门验收(能力底线+效率改善)、训练集与留出集物理隔离、先量化机会再花预算、广度优先(增加起始想法多样性)、编排即用即弃(最小模板复制跑完丢弃)、人守两端(提供先验并审阅重构)。
SoL-Pi有哪些局限或需要冷静看待的地方?
得分有代价(保留约94%);搜索仅在单一后端(Opus 5迁移证据初步);样本小、多为单次运行;成本为API等价估算;作者团队自测;“递归高效改进”和“预训练Harness”仍是愿景,未证明复利效应。