残余上下文扩散语言模型（RCD）通过回收被丢弃的令牌，提升了扩散大语言模型（dLLMs）的效率。RCD将这些令牌转化为上下文残差，注入下一步去噪中。该方法在多个基准测试中提高了5-10个百分点的准确率，特别是在AIME任务中，准确率几乎翻倍，去噪步骤减少4-5倍。

开发者在编写代码时需要频繁编辑和调试，非线性生成代码。扩散大语言模型（d-LLMs）通过同时考虑过去和未来的上下文，更有效地模拟这种迭代过程。与自回归模型相比，d-LLMs能更灵活地处理局部修改和全局一致性，适合代码重构和上下文编辑。尽管存在一些局限性，但它们在代码生成和编辑方面展现出新的可能性。