规模、检索增强与形式对语言模型事实一致性的影响
原文中文，约400字，阅读约需1分钟。发表于：。大型语言模型（LLMs）在提供事实知识方面具有自然的界面，但它们的有用性受到其倾向于给出不一致答案的限制。本文识别不一致性的潜在原因，并评估两种缓解策略的效果：扩展和使用检索语料库增强 LM。我们在 LLaMA 和 Atlas 模型上的结果表明，这两种策略都能减少不一致性，而使用检索增强方法更加高效。我们进一步考虑和分离了 Atlas 的不同组件对一致性的贡献。对所有评估的 LMs...
本文研究了大型语言模型在提供事实知识方面的不一致性问题，并提出了两种缓解策略：扩展和使用检索语料库增强LM。结果表明，这两种策略都能减少不一致性，而使用检索增强方法更加高效。作者还考虑了Atlas模型的不同组件对一致性的贡献，并发现语法形式和其他评估任务的产物会影响一致性。
