一种具有任务特定预训练的多任务语义分解框架用于少样本命名实体识别
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
通过多任务预训练的多任务语义分解框架,加强预训练语言模型中的实体表示。实验证明该方法在两个少样本命名实体识别基准测试中优于强基线模型,并验证了其有效性和泛化能力。
🎯
关键要点
-
通过多任务预训练的多任务语义分解框架,增强预训练语言模型中的实体表示。
-
引入基于示范和对比学习的两种新型预训练任务,能够有效融入实体边界信息。
-
在下游主任务中,通过语义分解方法引入多任务联合优化框架,整合不同的语义信息进行实体分类。
-
实验证明该方法在两个少样本命名实体识别基准测试中优于强基线模型。
-
广泛的分析验证了该方法的有效性和泛化能力。
➡️