量子位
·
小众架构赢麻了！通过编辑功能让100B扩散模型飙出892 tokens/秒的速度！
💡
原文中文，约3200字，阅读约需8分钟。
📝
内容提要
蚂蚁技术研究院推出的LLaDA2.1扩散模型在编程任务中实现892 tokens/秒的速度，标志着研究模型向实用工具的转变。其双模式设计允许用户根据需求选择速度或质量，克服了传统模型的局限性。LLaDA2.1在速度和质量上均表现优异，开源版本提供了轻量化选择。
🎯
关键要点
- 蚂蚁技术研究院推出LLaDA2.1扩散模型，速度达到892 tokens/秒。
- LLaDA2.1具有双模式设计，用户可选择速度或质量。
- 扩散模型的并行处理能力使其在速度上具有优势。
- LLaDA2.1引入可纠错编辑机制，允许模型在生成后进行修改。
- 模型的推理过程分为草稿生成和后期编辑两个阶段。
- 首次在100B扩散语言模型上成功实施强化学习训练。
- LLaDA2.1在多个基准测试中超越前代模型，兼顾速度与质量。
- 开源了16B的Mini版本，提供更轻量化的部署选择。
- LLaDA2.1的成功证明了非共识技术的潜力。
➡️
