预训练语言模型是否具备本体知识的认知与理解能力?
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
该研究提出了基于知识提示的KP-PLM框架,通过多种连续提示规则将知识子图转化为自然语言提示,并提出了两个新的知识感知无监督任务。实验结果表明,KP-PLM在多个自然语言理解任务中表现优异。
🎯
关键要点
- 提出了知识提示范式和基于知识提示的预训练语言模型KP-PLM框架。
- KP-PLM框架通过多种连续提示规则将知识子图转化为自然语言提示。
- 在这些提示的基础上,提出了两个新的知识感知无监督任务。
- 实验证明KP-PLM在多个自然语言理解任务中的优越性。
➡️