Enhancing Fact Retrieval in Pre-trained Language Models through Truthfulness
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本文探讨通过评估输入真实性提升预训练语言模型(PLMs)中的事实检索效率,提出了一种新方法,研究表明该方法可使效率提高最高达33%。
🎯
关键要点
-
预训练语言模型(PLMs)在预训练阶段编码了关于世界的各种事实。
-
本文提出了一种新方法,通过评估输入的真实性来增强事实检索。
-
研究表明,该方法可以提高事实检索效率,最高可提升33%。
🏷️