💡
原文中文，约4600字，阅读约需11分钟。
📝
内容提要
香港大学与华为诺亚方舟实验室推出了扩散推理模型Dream 7B，突破了自回归与扩散模型在生成任务中的界限。该模型在通用能力、数学推理和编程任务上表现优异，展示了扩散建模在自然语言处理中的潜力。研究团队将发布模型权重，并将继续优化扩散语言模型。
🎯
关键要点
- 香港大学与华为诺亚方舟实验室推出扩散推理模型Dream 7B，突破自回归与扩散模型在生成任务中的界限。
- Dream 7B在通用能力、数学推理和编程任务上表现优异，超越现有扩散语言模型。
- 研究团队将发布模型权重，并继续优化扩散语言模型。
- 扩散模型在文本生成中具有天然优势，尤其在复杂推理和长期规划方面。
- 离散扩散模型通过双向上下文建模和灵活的可控生成能力，提升生成文本的全局连贯性。
- Dream 7B的训练数据覆盖文本、数学和代码领域，使用了掩码扩散范式。
- 上下文自适应token级噪声重排机制提高了模型对不同上下文信息的学习效果。
- Dream 7B在规划能力和推理灵活性方面表现出独特优势，能够按任意顺序生成内容。
- 有监督微调增强了Dream与用户指令的对齐度，展现出与顶尖自回归模型相媲美的潜力。
❓
延伸问答
Dream 7B模型的主要特点是什么？
Dream 7B模型突破了自回归与扩散模型的界限，在通用能力、数学推理和编程任务上表现优异，展现了扩散建模在自然语言处理中的潜力。
扩散模型相比自回归模型有哪些优势？
扩散模型在生成文本时具有双向上下文建模、灵活的可控生成能力和更好的全局连贯性，尤其在复杂推理和长期规划方面表现更佳。
Dream 7B的训练数据来源是什么？
Dream 7B的训练数据覆盖文本、数学和代码领域，主要来源于Dolma v1.7、OpenCoder和DCLM-Baseline。
Dream 7B在规划能力方面的表现如何？
Dream 7B在规划能力上表现出独特优势，能够有效处理多重约束问题和特定目标任务，超越同级别的自回归模型。
Dream 7B的有监督微调是如何进行的？
Dream 7B实施了有监督微调，整合了180万对高质量指令-响应数据，经过三轮深度微调以增强与用户指令的对齐度。
未来扩散模型的发展方向是什么？
未来扩散模型的发展方向包括继续优化后训练方案，探索其在特定应用中的潜力，尽管自回归模型仍是主流。
➡️
