谷歌开源Harness²:无需重新训练即可自我改进的AI智能体

💡 原文英文,约2900词,阅读约需11分钟。
📝

内容提要

谷歌研究开源了Harness²框架,使AI智能体无需重新训练模型即可自我改进:它不修改模型权重,而是自动重写提示词、工具、记忆、技能和脚本等外围组件,并将经验带入后续任务。框架采用任务级与改进级两层递归,通过对比多次运行结果进行优化,无需标准答案。基准测试中单步改进最高提升约11.5分。

🔎

延伸解读

不训练模型,改“外围”也能提升智能体

Harness² 的核心思路是把改进对象从模型权重转移到模型周围的“harness”,包括提示词、工具、记忆、技能、脚本等八个组件。这意味着即使只能通过 API 调用模型、无法访问权重,团队也能让智能体在任务中自我优化。所有改动都以文本和代码形式保存,可审查、可对比,降低了改进过程的不透明性。

两层递归:任务内优化与跨任务经验传递

框架包含两个循环:任务级递归通过“提议—探测—组合”在单任务内比较不同 harness 变体的运行差异,无需标准答案;改进级递归则将采纳的 harness 和“有证据支持的教训”存入持久化库,指导后续任务。演示中,第一个任务学到的“求和时包含正负号”教训被写入 EXPERIENCE.md,第二个任务启动时库中已有该条目,体现了经验传递。

基准提升是“最高值”,且依赖自有评测

文章报告的提升幅度——WorkBuddy-Bench 最高 +11.5 分、LAB 最高 +11.8 个百分点、JobBench 最高 +4.5 分——均为单步(k=1)下的最佳案例,并非平均值,且 LAB 的指标是部分通过率。这些结果来自谷歌自己的测试,独立复现尚未出现。读者应将其视为初步信号,而非普适结论。

免费演示可上手,真实运行需云资源与成本意识

官方演示使用确定性编辑器和真实 Python 执行,无需模型凭证,约两秒即可跑完,适合先理解递归流程和文件结构。但真实基准运行需要 Vertex AI、手工创建 .env 文件,并按 k 值消耗 4k 次执行器 rollout 和 3k 次改进器会话,产生费用。文章建议锁定网络访问、监控成本,并将其视为研究代码。

❓

Q&A

Harness² 是什么?它和传统的模型微调有什么区别?

Harness² 是谷歌研究开源的一个框架,让 AI 智能体无需重新训练模型即可自我改进。它不修改模型权重,而是自动重写模型外围的组件(提示词、工具、记忆、技能、脚本等),并将经验带入后续任务。传统微调需要训练数据、GPU 和模型权重访问权限,而 Harness² 只改变模型周围的环境,所有改进都以纯文本和代码文件形式保存,可读可审查。

Harness² 是如何工作的?两层递归分别指什么?

Harness² 采用两层递归:第一层是任务级递归(Propose—Probe—Compose),针对当前任务改进 harness:编辑器提出通用和领域特定的修改,智能体用每个修改后的 harness 重新运行同一任务,组合器比较运行结果并合并有效的修改。第二层是 harness 改进级递归,在任务之间存储采用的 harness 和“有证据支持的教训”到持久化的改进 harness 中,指导下一个任务的优化。第一层让智能体更擅长当前任务,第二层让框架更擅长改进未来任务的智能体。

Harness² 在基准测试中的表现如何?提升了多少?

谷歌在三个基准上测试了 GLM-5 和 Gemini 3.5 Flash,单步改进(k=1)相比基础 harness 均有提升:WorkBuddy-Bench(办公、网页和代码任务)最高提升 11.5 分;LAB(法律工作)部分通过率最高提升 11.8 个百分点;JobBench(专业工作任务)最高提升 4.5 分。这些是“最高”数据而非平均值,且为谷歌自己的结果,独立复现仍有待验证。

Harness² 的并行模式和顺序模式有什么区别?计算成本如何?

并行模式提出 k 个通用候选和 k 个领域候选,然后在完整候选池上运行 k 次独立组合,探索更广;顺序模式连续运行 k 个 Propose—Probe—Compose 步骤,携带精炼后的 harness 前进,精炼更深。预算 k 驱动成本:每个任务需要 4k 次执行器运行和 3k 次改进器会话,例如 --k 3 意味着每个任务 12 次运行和 9 次改进器会话。

如何运行 Harness² 的免费演示?需要 API 密钥吗?

不需要 API 密钥。演示使用确定性编辑器和真实 Python 执行,无需模型凭证。步骤:安装 uv、克隆仓库(git clone https://github.com/google-research/harness2.git)、创建并激活虚拟环境(uv venv --python 3.12 .venv && source .venv/bin/activate)、安装(uv pip install -e '.[render]')、运行 harness2-demo --output runs/demo --k 2。演示约两秒完成,会展示 Harness² 自动修复一个脚本中的 bug(过滤掉了负数条目)并记录经验教训。

Harness² 有哪些实际优势?适合什么场景?

三个实际优势:1)改进可读可审查——改进后的 harness 是文本和代码,可以审查并与原始版本对比差异,Harness² 还会记录采用每个修改的原因;2)适用于无法训练的模型——执行器和改进器只是配置文件中的模型 ID,可通过 API 使用;3)不需要标准答案——通过对比多次运行结果进行优化,适用于尚未标注的任务。适合开放世界中遇到未预期任务的场景,以及通过 API 使用模型、无法微调的团队。

运行 Harness² 的真实基准测试需要哪些准备?

需要:Node.js 20+(用于 OpenCode 执行器)、Google Cloud CLI、启用了 Vertex AI 的 Google Cloud 项目、Pandoc 和 Poppler(用于 LAB 文档),Docker 仅 WorkBuddy-Bench 需要。还需手动创建 .env 文件(README 提到的 .env.example 不存在),设置 GOOGLE_CLOUD_PROJECT、GOOGLE_CLOUD_LOCATION、HARNESS2_SOLVER_MODEL、HARNESS2_IMPROVER_MODEL、HARNESS2_JUDGE_MODEL 等变量,并通过 gcloud auth application-default login 认证。然后安装 LAB 基准(harness2-setup lab)并检查安装(harness2-check --bench lab)。

🏷️

标签

➡️

继续阅读