量子位
·
跳过“逐字生成”！蚂蚁集团赵俊博：扩散模型让我们能直接修改Token | MEET2026
💡
原文中文，约4500字，阅读约需11分钟。
📝
内容提要
蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势，指出其可直接修改token，从而提升生成速度和降低计算成本。他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型，引发行业关注。
🎯
关键要点
- 蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势。
- 扩散模型可以直接修改和控制token，提升生成速度和降低计算成本。
- 他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型。
- 扩散模型在训练与推理层面仍处于早期发展阶段，但发展势头迅猛。
- 扩散语言模型的解码过程类似于完形填空，而非自回归模型的逐步生成。
- LLaDA在相同计算量和性能目标下，所需参数规模比自回归模型更小。
- 扩散模型在数据需求上更大，能够更快吸收数据。
- LLaDA与自回归模型的Scaling Law存在差异，扩展到千亿规模面临新挑战。
- 蚂蚁集团致力于推动扩散语言模型的研究与应用，期待社区共同发展。
➡️
