量子位
·
跳过“逐字生成”！蚂蚁集团赵俊博：扩散模型让我们能直接修改Token | MEET2026
💡
原文中文，约4500字，阅读约需11分钟。
📝
内容提要
蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势，指出其可直接修改token，从而提升生成速度和降低计算成本。他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型，引发行业关注。
🎯
关键要点
-
蚂蚁集团赵俊博在MEET2026大会上介绍了扩散模型的优势。
-
扩散模型可以直接修改和控制token，提升生成速度和降低计算成本。
-
他们开源了LLaDA 2.0，首次实现千亿参数的扩散语言模型。
-
扩散模型在训练与推理层面仍处于早期发展阶段，但发展势头迅猛。
-
扩散语言模型的解码过程类似于完形填空，而非自回归模型的逐步生成。
-
LLaDA在相同计算量和性能目标下，所需参数规模比自回归模型更小。
-
扩散模型在数据需求上更大，能够更快吸收数据。
-
LLaDA与自回归模型的Scaling Law存在差异，扩展到千亿规模面临新挑战。
-
蚂蚁集团致力于推动扩散语言模型的研究与应用，期待社区共同发展。
❓
延伸问答
扩散模型相比自回归模型有哪些优势？
扩散模型可以直接修改和控制token，提升生成速度和降低计算成本，且在相同计算量下所需参数规模更小。
LLaDA 2.0的主要特点是什么？
LLaDA 2.0是首个实现千亿参数的扩散语言模型，开源后引发行业关注。
扩散语言模型的解码过程是怎样的？
扩散语言模型的解码过程类似于完形填空，通过遮盖部分词汇再进行恢复，而非逐步生成。
蚂蚁集团在扩散模型领域的研究目标是什么？
蚂蚁集团致力于推动扩散语言模型的研究与应用，探索其独特的Scaling Law。
扩散模型在数据需求上有什么特点？
扩散模型在数据需求上更大，能够更快吸收数据，表现出更强的“data-hungry”特性。
扩散模型的Scaling Law与自回归模型有什么不同？
扩散模型的Scaling Law与自回归模型存在差异，扩展到千亿规模面临新挑战。
➡️
