Enhancing Fact Retrieval in Pre-trained Language Models through Truthfulness

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本文探讨通过评估输入真实性提升预训练语言模型(PLMs)中的事实检索效率,提出了一种新方法,研究表明该方法可使效率提高最高达33%。

🎯

关键要点

  • 预训练语言模型(PLMs)在预训练阶段编码了关于世界的各种事实。

  • 本文提出了一种新方法,通过评估输入的真实性来增强事实检索。

  • 研究表明,该方法可以提高事实检索效率,最高可提升33%。

🏷️

标签

➡️

继续阅读