刚刚，扩散模型杀进Agent主场！350亿参数，速度比Jev快一倍
内容提要
扩散智能发布扩散语言模型Clover-35B-A3B-Preview，采用MoE架构，总参数350亿、每token激活约30亿，支持思考模式。模型以块扩散并行生成，速度明显快于自回归模型，可写代码、生成网页、调用工具并连续执行Agent任务，在WindTunnel、SWE-bench等评测中表现靠前。团队此前推出DiffuSeq和Dream 7B，后续将推进多模态与端侧应用。
延伸解读
扩散模型做Agent：速度优势与稳定性挑战
Clover在WindTunnel评测中中位执行时间1.52秒，远快于对比组合的3.21秒，成功率也略高。这得益于块扩散的并行生成方式，能减少逐token串行等待。但文章也指出，扩散语言模型以往在Agent任务中工具调用格式易出错、易重复步骤，Clover的进步体现在连续操作中能读取反馈并调整。读者需注意，速度优势需以任务成功率为前提，实际部署时应关注长程任务的稳定性。
块扩散与历史记忆：效率背后的技术取舍
Clover采用块扩散，块内并行更新、块间依次推进，一轮计算可推动多个位置生成。但扩散模型需多轮去噪，轮数太少内容未调好，太多则计算开销增加。在代码和Agent任务中上下文不断变长，历史信息保存成为效率问题。Clover通过重构门控Delta网络，将已生成上下文压缩进持续更新的状态，并让历史记忆读出独立参与注意力计算，以权衡前文与当前内容。这些调整是并行生成与计算效率配合的关键。
从Dream 7B到Clover：规模扩展与路线延伸
团队此前推出DiffuSeq和Dream 7B，后者为70亿参数，在通用、数学和代码任务上与同规模自回归模型可比。Clover将总参数推进到350亿，采用MoE架构，每token激活约30亿，速度并未因参数扩大而变慢。文章提到，团队后续将推进多模态版本，结合多模态理解及动作生成，并开展端侧适配与验证，同时探索更大规模模型以提高长程任务稳定性。这显示扩散语言模型正从文本生成走向复杂任务执行。
Q&A
Clover-35B-A3B-Preview 是什么模型？它有什么特点？
Clover-35B-A3B-Preview 是扩散智能发布的扩散语言模型，采用 MoE 架构，总参数 350 亿，每个 token 激活约 30 亿参数，支持思考模式。它使用块扩散并行生成，速度明显快于自回归模型，能写代码、生成网页、调用工具并连续执行 Agent 任务。
Clover 在速度上相比 Jev 和 Gemini 有什么优势？
在网页 Agent 评测 WindTunnel 的 49 个任务中，Clover 的中位执行时间为 1.52 秒，Jev＋Mercury 2.5 组合为 3.21 秒，用时少了一半多；尝试成功率分别为 98.6% 和 95.9%。对比同表中的 Gemini，速度更是快了好几倍。
扩散语言模型是如何生成文字的？和自回归模型有什么不同？
自回归模型根据前文逐个预测下一个 token，串行生成；扩散语言模型允许多个位置同时更新，经过多轮去噪逐步恢复出符合上下文的文字。Clover 采用块扩散：将内容分成若干块，块间依次推进，块内多个位置并行更新、相互参考，从而减少串行等待。
Clover 在 Agent 任务和代码评测中的表现如何？
在工具使用相关的 τ³ Overall 和 BFCL-v4 评测中，Clover 分别拿到 65.3 和 67.9，位居前列；在 SWE-bench Verified 上拿到 73.6，在 Terminal-Bench 2.1 上拿到 51.7。官方演示中，它还能通过 WebMCP 连续处理六项任务，并在购物场景中完成找商品、加购物车、填写信息、结账等流程。
Clover 如何解决扩散模型在长上下文 Agent 任务中的效率问题？
Clover 围绕块扩散重构了门控 Delta 网络（GDN）：已生成的上下文被压缩进持续更新的状态供后续读取；当前生成的块通过双向注意力让块内 token 相互参考；历史记忆的读出作为独立信息单元参与注意力计算，让模型学习权衡前文与当前内容；再通过可学习的块大小校准，减少块变大后历史信息被稀释的问题。
Clover 背后的团队是什么背景？未来有什么计划？
Clover 由扩散智能研发，该公司由香港大学孔令鹏教授及其博士生龚珊三、叶佳成联合创立。团队对扩散语言模型的探索可追溯到 2022 年的 DiffuSeq，2025 年 4 月参与推出 Dream 7B。未来计划推出多模态版本，推进端侧场景适配与验证，并探索更大规模模型、提高长程任务稳定性，通过推理优化、量化和部署适配推进端侧应用。
