量子位
·
12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看
💡
原文中文，约2000字，阅读约需5分钟。
📝
内容提要
谷歌的Gemini Diffusion模型利用扩散技术，在12秒内生成1万tokens，速度比传统模型快2000倍。该模型通过逐步优化噪声生成文本，支持非因果推理，提升生成质量和一致性。
🎯
关键要点
- 谷歌推出Gemini Diffusion模型，利用扩散技术在12秒内生成1万tokens。
- Gemini Diffusion的生成速度比传统模型快2000倍，达到每秒2000个token。
- 该模型通过逐步优化噪声生成文本，消除了传统自回归模型的从左到右生成限制。
- Gemini Diffusion支持非因果推理，能够在生成过程中进行错误纠正，提升生成质量和一致性。
- 与自回归模型相比，Gemini Diffusion能够一次生成整个标记块，提供更连贯的响应。
- 扩散模型的生成过程不依赖于严格的时序因果关系，允许并行或迭代式去噪。
- 未来可能会出现更多基于扩散技术的混合模型。
➡️
