本研究提出Rowen方法,通过选择性检索外部信息,改善大型语言模型(LLMs)的幻觉输出问题。研究发现,正确生成的上下文激活更为明显,并提出基于熵的度量来量化这一特征。实验表明,该方法在多个基准测试中有效提升了模型性能。此外,研究开发了放弃回答的方法,减少了胡言乱语率,并提出了ANAH数据集和CODE解码方法,以进一步解决幻觉问题。
完成下面两步后,将自动完成登录并继续当前操作。