Chem-FINESE: 文本重建验证细粒度少样本实体抽取

💡 原文中文,约1700字,阅读约需4分钟。
📝

内容提要

本文综述了少样本与零样本实体识别及关系抽取的多项研究,包括:SEE-Few多任务框架(无需源域数据)、FFF-NER(基于预训练模型微调)、ConceptFERE(概念增强关系抽取)、CASENT(序列到序列预测实体类型,速度更快且优于大模型)、FiD-Ex(提升解释性)、词典检索器(中文实体链接)、GPT-3联合抽取科学文本实体关系、seq2rel(端到端文档级关系抽取)、基于Transformer的二进制分类方法(提升生物医学少样本NER),以及基于预训练语言模型的少样本泛化改进方案。

🔎

延伸解读

少样本NER的技术路线分化

文章列举的少样本NER方法呈现两条路径:一是SEE-Few和FFF-NER通过多任务学习或贴近预训练目标的微调来提升性能;二是CASENT和生物医学二进制分类方法将实体类型预测转化为序列到序列或二分类任务。后者在零样本场景下甚至优于大模型,说明任务重构可能比单纯增大模型更有效。

零样本与少样本的性能边界

生物医学NER的二进制分类方法给出了具体数据:零样本平均F1为35.44%,10样本和100样本分别达到69.94%和79.51%。这显示少样本学习能大幅缩小与全监督的差距,但零样本性能仍有限。CASENT在零样本下优于10倍参数的大模型,但需注意其评测限于特定数据集和实体类型。

关系抽取的端到端趋势

seq2rel和GPT-3联合抽取方法都采用序列到序列框架,同时完成实体和关系抽取,替代传统流水线。seq2rel在生物医学数据集上表现优于流水线方法,说明端到端方式能减少误差传播。ConceptFERE则通过概念增强提升关系分类,反映了关系抽取中引入外部语义知识的思路。

中文实体链接的检索策略

基于词典的粗粒度到细粒度检索器在中文少样本和零样本实体链接任务中排名第一,且无需大量微调。其核心是利用实体描述消除与流行实体重名的歧义,这对处理尾部或新实体尤为关键。该结果提示,在实体链接中,检索策略和描述信息可能比复杂模型微调更实用。

❓

Q&A

SEE-Few 框架在没有源域数据时如何实现少样本实体识别?

SEE-Few 是一个多任务学习框架,通过种子、扩展和蕴含三个学习模块来提高实体识别准确性,且无需使用源域数据。在四个基准数据集上,其表现显著优于现有技术。

FFF-NER 与其他少样本NER方法相比有什么优势?

FFF-NER 是一种基于预训练模型且更贴近预训练目标的少样本微调框架,应用于命名实体识别。实验表明,它比序列标记、原型元学习和提示式方法等现有方法更有效地改善 NER 性能。

CASENT 模型在零样本和少样本实体类型预测上表现如何?

CASENT 采用序列到序列方法预测带有校准置信度分数的超精确类型。在 UFET 数据集上,其 F1 得分和校准误差优于现有最先进方法,推断速度提高 50 多倍。在零样本设置下,其性能超过参数量大 10 倍的大型语言模型;使用 50 个示例微调时,在所有数据集上显著优于 ChatGPT。

ConceptFERE 如何利用概念增强来提升少样本关系抽取?

ConceptFERE 通过计算句子与概念之间的语义相似度选择最合适的概念,再通过自注意力融合模块建立概念嵌入和句子嵌入之间的联系,从而提高关系分类性能。

在生物医学少样本NER中,基于Transformer的二进制分类方法效果如何?

该方法将多类令牌分类转化为二进制令牌分类,并在更多数据集和医学实体上预训练,学习给定实体和潜在类之间的语义关系。使用 PubMedBERT 调整后,零样本 NER 平均 F1 为 35.44%,10 样本和 100 样本 NER 平均 F1 分别为 69.94% 和 79.51%,可与先进方法媲美甚至更好。

seq2rel 方法如何实现端到端文档级关系抽取?

seq2rel 基于序列到序列模型,使用实体推荐技术,同时完成抽取实体和关系的子任务,替代传统的流水线方法。在多个生物医学数据集上,其性能优于现有流水线方法,展示了端到端方法超越流水线方法的结果。

🏷️

标签

➡️

继续阅读