掩蔽扩散模型采样的路径规划
📝
内容提要
本研究解决了掩蔽扩散模型中标记解掩顺序对生成质量的影响问题,提出了一种新的路径规划方法(P2),通过使用预训练的BERT模型或去噪器引导解掩决策。研究表明,P2 在多个领域(如语言生成和生物序列生成)中显著提升了性能,具有广泛的应用潜力。
➡️
本研究解决了掩蔽扩散模型中标记解掩顺序对生成质量的影响问题,提出了一种新的路径规划方法(P2),通过使用预训练的BERT模型或去噪器引导解掩决策。研究表明,P2 在多个领域(如语言生成和生物序列生成)中显著提升了性能,具有广泛的应用潜力。