量子位
·
跳过“逐字生成”！蚂蚁集团赵俊博：扩散模型让我们能直接修改Token | MEET2026
💡
原文中文，约4500字，阅读约需11分钟。
📝
内容提要
蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势，指出其可直接修改token，从而提升生成速度和降低计算成本。他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型，引发行业关注。
🎯
关键要点
- 蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势。
- 扩散模型可以直接修改和控制token，提升生成速度和降低计算成本。
- 他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型。
- 扩散模型在训练与推理层面仍处于早期发展阶段，但发展势头迅猛。
- 扩散语言模型的解码过程类似于完形填空，而非自回归模型的逐步生成。
- LLaDA在相同计算量和性能目标下，所需参数规模比自回归模型更小。
- 扩散模型在数据需求上更大，能够更快吸收数据。
- LLaDA与自回归模型的Scaling Law存在差异，扩展到千亿规模面临新挑战。
- 蚂蚁集团致力于推动扩散语言模型的研究与应用，期待社区共同发展。
❓
延伸问答
扩散模型的主要优势是什么？
扩散模型可以直接修改和控制token，从而提升生成速度和降低计算成本。
LLaDA 2.0有什么特别之处？
LLaDA 2.0是首个实现千亿参数的扩散语言模型，并且已开源。
扩散模型与自回归模型有什么不同？
扩散模型的解码过程类似于完形填空，而自回归模型则是逐步生成内容。
扩散模型在数据需求上有什么特点？
扩散模型对数据的需求更大，能够更快吸收数据。
蚂蚁集团在扩散语言模型领域的目标是什么？
蚂蚁集团致力于推动扩散语言模型的研究与应用，期待与社区共同发展。
扩散模型的Scaling Law与自回归模型有什么区别？
扩散模型的Scaling Law与自回归模型存在显著差异，扩展到千亿规模面临新挑战。
➡️
