预训练语言模型是否具备本体知识的认知与理解能力?

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

该研究提出了基于知识提示的KP-PLM框架,通过多种连续提示规则将知识子图转化为自然语言提示,并提出了两个新的知识感知无监督任务。实验结果表明,KP-PLM在多个自然语言理解任务中表现优异。

🎯

关键要点

  • 提出了知识提示范式和基于知识提示的预训练语言模型KP-PLM框架。
  • KP-PLM框架通过多种连续提示规则将知识子图转化为自然语言提示。
  • 在这些提示的基础上,提出了两个新的知识感知无监督任务。
  • 实验证明KP-PLM在多个自然语言理解任务中的优越性。
➡️

继续阅读