TEncDM:理解语言模型编码空间中扩散模型的属性

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本研究提出了自条件嵌入扩散机制,用于条件和非条件文本生成。该机制在令牌嵌入上运行,学习灵活和可扩展的扩散模型。通过评估,发现该模型生成的样本与自回归语言模型相当,但在推断时间上更高效。该研究为扩大文本扩散模型规模,提高性能铺平了道路。

🏷️

标签

➡️

继续阅读