本研究探讨了扩散模型生成文本幻觉的问题，发现其主要源于局部生成偏差。当数据分布的不同维度几乎独立时，去噪网络倾向于依赖相关的局部区域，导致生成文本不符合语法。这一发现为理解其他类型的幻觉提供了重要见解。

本研究提出Delta方法，通过随机遮盖输入提示的部分内容，比较输出分布，从而显著提升大型语言模型的可靠性，尤其在上下文模糊时效果显著。