Abacus.AI 的 Smaug 模型在哪些方面提升最大?

Abacus.AI 的 Smaug 模型在哪些方面提升最大?

💡 原文英文,约2700词,阅读约需10分钟。
📝

内容提要

Abacus.AI 发布三款开源权重模型 Smaug,均针对智能体任务微调。Smaug Flash 基于 DeepSeek V4 Flash,智能体编码提升 14.3 分,AutomationBench 提升 13.7 分,NL2Repo-Bench 提升 19 分,弥补了长工具循环的缺陷。Smaug Mini(28B)在指令遵循、自动化与任务基准上超越 Claude Sonnet 5 等闭源模型,但智能体编码略降 0.6 分。Smaug Agentic 基于 Kimi K3,分数提升较小,但在 113 项任务中连续运行 7 小时以上且零故障,体现出行为稳定性。三款模型的增益均集中于基座模型的短板处。

🔎

延伸解读

增益集中于基座短板,而非全面超越

三款 Smaug 模型的提升并非均匀分布,而是精准落在各自基座模型最薄弱的环节。Smaug Flash 的基座 DeepSeek V4 Flash 在长工具循环中易陷入混乱,因此微调后智能体编码和自动化基准提升最大;Smaug Mini 的基座 Qwen3.8-27B 编码能力已较强,增益便转向数学和推理;Smaug Agentic 的基座 Kimi K3 已接近前沿,分数提升空间小,转而强化行为稳定性。这说明同一套微调方法的效果高度依赖基座模型的具体缺陷。

小模型在特定任务上可超越闭源大模型

Smaug Mini 仅有 28B 参数,却在指令遵循(IFBench)、自动化(AutomationBench)和任务级完成(JobBench)上超过了 Claude Sonnet 5、Claude Opus 4.6 和 GPT-5.6 Luna 等闭源模型。但需注意,它在 LiveBench 的智能体编码分项上比基座还低 0.6 分。这提醒读者:不同基准测量的是不同能力,单一分数下降不代表模型整体变差,选型时应以实际工作负载对应的基准为准。

行为稳定性是 Smaug Agentic 的核心价值

Smaug Agentic 的基准分数提升最小(整体仅 +0.3),但它在 113 项智能体编码任务中连续运行超过 7 小时,每任务中位 78 个智能体步骤,且零基础设施错误、零超时。对于需要长时间自主运行的前沿规模部署,这种不中断、不崩溃的行为可靠性比分数涨幅更有实际意义。文章也坦承,该模型在 Terminal-Bench 2.1 和 MMMU-Pro 上仍落后于基座 Kimi K3。

开放权重不等于开箱即用,需实测验证

三款模型均公开在 Hugging Face 上,提供部署灵活性,但文章明确指出开放权重不保证推理效率或集成便利性。硬件配置、上下文长度和任务难度都会影响实际推理表现,而这些是基准分数无法预测的。文章建议除基准外,还应关注任务完成率、生产环境下的延迟、每千步智能体成本以及可复现性,并将基准结果仅作为筛选候选模型的起点,而非实际任务测试的替代。

❓

Q&A

Smaug Flash 在哪些基准测试上提升最大?具体分数变化是多少?

Smaug Flash 在智能体编码(LiveBench Agentic Coding)上提升 14.3 分(46.8→61.1),AutomationBench 提升 13.7 分(25.1→38.83),NL2Repo-Bench 提升 19 分(54.2→73.3)。这些提升直接针对 DeepSeek V4 Flash 在长工具循环中的失败模式。

Smaug Mini 作为 28B 小模型,在哪些方面超越了闭源大模型?

Smaug Mini 在 IFBench(指令遵循,82.0)、AutomationBench(41.8)和 JobBench(50.5)上超越了 Claude Sonnet 5、Claude Opus 4.6 和 GPT-5.6 Luna。其中 JobBench 相比基座提升 17.1 分(33.4→50.5)。

Smaug Agentic 的分数提升很小,它的主要价值是什么?

Smaug Agentic 的主要价值在于行为稳定性而非分数提升。在 113 项智能体编码任务中,它连续运行超过 7 小时,每任务中位 78 个智能体步骤,零基础设施错误和超时。它抑制了失控推理,同时保留正常思考过程。

Smaug 系列模型的训练方法有什么特别之处?

Smaug 系列使用相同方法论:结合人工整理的真实智能体轨迹和基于困难案例的合成数据,并过滤掉利用评分标准而非真正解决问题的数据。具体微调方式因模型而异:Smaug Flash 仅用 LoRA 适配器修改注意力矩阵;Smaug Agentic 对 Kimi K3 进行监督微调并屏蔽推理令牌的损失;Smaug Mini 应用相同方法到 27B 密集基座。

为什么 Smaug 系列在不同模型上的提升点不同?

因为增益集中在基座模型短板最宽处。Smaug Flash 的基座在长工具循环中易失败,所以智能体编码提升最大(+14.3);Smaug Mini 的基座编码已强,提升转向数学(+3.5)和推理(+2.8);Smaug Agentic 的基座已达前沿能力,分数提升空间小,微调聚焦行为可靠性。

在实际应用中应该如何选择 Smaug 系列的不同模型?

根据工作负载选择:需要长时间、长上下文工具使用、文档处理或跨小时工作流时选 Smaug Flash;需要多模态、指令遵循且希望单 GPU 部署时选 Smaug Mini;需要数百步骤智能体长期运行且避免基础设施故障时选 Smaug Agentic。基准分数只是评估起点,需在实际任务上测试。

🏷️

标签

➡️

继续阅读