论文周报丨8篇论文聚焦Agent Harness新进展,覆盖编程智能体/具身控制/图像视频生成

论文周报丨8篇论文聚焦Agent Harness新进展,覆盖编程智能体/具身控制/图像视频生成

💡 原文中文,约6000字,阅读约需15分钟。
📝

内容提要

本文综述Agent Harness研究:作为连接大模型、工具与执行环境的运行框架,它影响智能体任务执行的稳定性与安全性。文章精选8项研究,涵盖编码智能体的Harness设计实证、终端动作采样验证、机器人操作接口、可编程视觉生成、安全约束定制、Harness工程能力评测、递归自我改进及持续自进化机制,指出Harness正成为智能体执行效果与安全的关键基础设施。

🔎

延伸解读

Harness 不是组件越多越好

文章首篇实证研究在 SWE-Bench Verified 和 Terminal-Bench 2.1 上做受控实验,发现上下文管理对长程任务尤其关键,规划机制的收益则随模型能力不同而变化。这提示读者:评估一个 Agent 框架时,不能只看最终成功率,还要区分规划、动作空间、上下文管理各自贡献了多少。工具接口也需结合模型特点调整,堆叠组件反而可能增加成本而无收益。

执行前筛选动作比单纯换更强模型更直接

Mid-Harness 的做法是在模型与执行环境之间加入候选动作采样和验证器筛选,避免终端命令第一次就执行错误、改变运行环境。但研究也指出,增加候选动作并不必然带来收益,关键在于验证器能否识别更优操作。对实际部署终端智能体的团队来说,这意味着额外算力应优先投入验证环节,而非盲目扩大采样数量。

程序跑通不等于视觉结果达标

MaLiang-Harness 将图像视频生成组织为构建、检查、修订的循环,并构建了 MaLiang-IBench 与 MaLiang-VBench。结果显示,GPT-6-Astra 在两个基准上生成成功率均为 100%,但满足全部视觉质量阈值的图像任务仅 96.0%、视频任务仅 76.9%。这说明可执行性与视觉质量是两个评价维度,通用能力分数相近的模型在视觉生成任务中表现也可能不同,评估时需分开考察。

安全约束需按模型与领域定制

EvoSafeHarness 将安全策略与代码逻辑联合优化,针对目标模型行为和领域规范生成约束套件。在 DecodingTrust-Agent 相关设置中,平均攻击成功率从 45.6% 降至 10.0%,效用损失约 3.3 个百分点;在 AgentDojo 特定设置下攻击成功率降至 0.0%,正常任务效用 82.8%。不过文章提醒,安全表现仍取决于攻击类型、任务环境与评估范围,固定规则可能过度限制或遗漏风险。

❓

Q&A

Agent Harness 到底是什么?它和大模型是什么关系?

Agent Harness 是连接大语言模型、工具与执行环境的运行框架,负责组织任务流程、管理上下文与记忆、协调工具调用,并处理执行中的错误与结果验证。模型决定 Agent 能思考什么,而 Harness 影响这些能力能否转化为稳定、可靠的实际行动。

为什么现在 Agent Harness 越来越受关注?

随着模型推理与生成能力提升,智能体面临的挑战不再只是生成正确答案,还包括连续完成多步骤任务、减少错误操作、适应不同执行环境以及控制自主行动风险。Harness 正从支撑模型运行的基础框架,发展为影响 Agent 执行效果、应用边界与安全性的关键基础设施。

编码智能体的 Harness 设计中,规划、动作空间和上下文管理分别有什么影响?

实证研究表明:上下文管理对长程任务尤为重要,合理处理历史信息能减少上下文溢出导致的失败;规划机制的收益因模型能力而异;工具接口的选择也需结合模型特点调整。Harness 并非组件越多越好,而应根据任务需求、模型能力与资源预算来设计。

Mid-Harness 如何提高终端智能体执行命令的可靠性?

Mid-Harness 在模型与执行框架之间加入动作采样和验证机制:执行前先生成多个候选动作,再通过验证器比较和筛选,以降低不当操作对任务进程的影响。研究表明,增加候选动作并不必然带来收益,效果取决于验证器能否识别更优操作;合适的比较与筛选机制能提升动作质量和任务轨迹成功率。

Show-Harness 如何让视觉语言模型直接控制机器人?

Show-Harness 设计了一套语义动作接口,将机器人操作表示为模型能理解和推理的离散动作单元,再由针对具体机器人设计的解释器转换为实际控制指令;同时开发了 GUMI 图形界面,支持通过 GUI 采集操作演示,降低对专用遥操作硬件的依赖。评估显示,前沿 VLM 无需专门微调即可执行多种机器人操作任务,小型开源模型也可通过轻量微调适配。

EvoSafeHarness 的安全约束效果如何?相比传统固定规则有什么优势?

传统安全约束由专家预先设计并统一应用,可能过度限制正常任务或遗漏特定场景风险。EvoSafeHarness 将安全约束设计转化为可优化过程,联合调整自然语言安全策略与可执行代码逻辑,结合目标模型行为反馈、领域规范和对抗性审查生成定制约束套件。在 DecodingTrust-Agent 相关测试中,平均攻击成功率从 45.6% 降至 10.0%,效用损失约 3.3 个百分点;在 AgentDojo 特定评测设置下攻击成功率降至 0.0%,正常任务效用达 82.8%。

Doc2Harness 基准测试发现了大模型构建 Harness 的哪些能力短板?

Doc2Harness 分两阶段评估:模型根据接口契约与开发文档生成候选 Harness,再在隔离环境中通过模型请求、磁盘文件、进程退出码和命令输出等可观测信息检查其实际行为。对 19 个前沿模型、每个 328 个测试用例各 3 次独立构建的评估显示,表现最好的 GPT-6 Astra 通过率为 53.05%,最弱模型为 27.44%;失败主要集中在需要跨多个模块实现的功能以及模块间职责划分。这说明模型能生成代码,并不等于具备构建复杂运行基础设施的完整工程能力。

Harness² 和 Self-Evolving Agent Harness 在让 Harness 自我改进上有什么不同思路?

Harness² 构建两个递归层级:任务级递归通过 Propose–Probe–Compose 流程为当前任务提出框架改动、执行对比测试并依据执行轨迹决定是否采纳;框架级递归从改动中提取可复用经验,更新后续框架优化方式。实验显示单步框架改进在 WorkBuddy-Bench 上最高提升 11.5 分,JobBench 提升 4.5 分,LAB 提升 11.8 个百分点。Self-Evolving Agent Harness 则关注长期运行下的持续自我更新:在不改变模型权重的情况下,根据执行经验调整提示词、记忆、工作流及可执行组件,并强调提出修改、判断有效性、决定采纳是三个独立环节,结合演化优化与持续 PAC 学习分析泛化与性能回退问题。

🏷️

标签

➡️

继续阅读