网页中的超文本实体抽取
内容提要
本文汇总多项信息抽取研究，包括提出WebIE数据集及三种训练策略以提升跨域跨语言性能，设计轻量级特征无关IE范例，构建多特征融合网页文本提取算法，提出三阶段联合学习框架，研发文档级实体提取、医学实体抽取、网络安全实体标注等方法，并发布HealthE数据集与EPS-BERT模型，F1值显著提升。
延伸解读
跨域跨语言信息抽取的进展
文章介绍了WebIE数据集，包含160万句子及详细注释，用于评估生成式信息抽取模型的跨域和跨语言性能。提出的三种训练策略显著提升了实体链接效果，表明大规模多语言数据对模型泛化的重要性。
轻量级与联合学习框架的适用场景
针对语言模式不规范和长尾概念漂移问题，轻量级特征无关范例在低监督和高监督下均比传统条件随机场提升18%以上F度量，适合人口贩卖等非法领域。三阶段联合学习框架则改善了多任务交互，提升了泛化能力。
医学与网络安全实体抽取的实践
医学实体抽取利用预训练Transformer模型，将电子健康记录作为单步多标签分类任务，达到人类级别质量。网络安全实体标注通过结构化数据自动标注，训练时间不到17秒，精确度、召回率和准确性接近完美，展示了自动化标注的高效性。
实体消歧与文档特征的影响
实体消歧研究指出仅用Wikipedia标题作为文本表示存在信息不足问题，采用extractive formulations和更具表达力的文本表示策略能提升性能。此外，文档体类别和长度对命名实体识别和语义角色标注有重要影响，需在方法设计中考虑。
Q&A
WebIE数据集是什么？它包含多少数据？
WebIE数据集是一个用于信息抽取的数据集，包含160万个句子及其详细注释。
有哪些方法可以提升信息抽取模型的跨域和跨语言性能？
基于WebIE数据集，可以评估基于生成模型的信息抽取模型的跨域和跨语言性能，并采用三种训练策略来提升性能，实验表明实体链接方式得到明显提高。
针对非法领域如人口贩卖，有什么信息抽取方法？
有一种轻量级的特征无关的信息抽取范例，可以处理语言模式不规范、长尾概念漂移等问题，特别适用于人口贩卖等非法领域。在低监督和高监督设置下，该范例比传统的基于特征的条件随机场提升18%以上的F-度量，并且能够漂移概念稳定性高。
如何解决信息抽取系统在不同任务之间交互困难的问题？
可以提出一种易于模仿人类学习过程的三阶段联合学习框架，该框架可以使模型更好地学习不同任务之间的知识和提高其泛化能力，在四项IE任务上的实验表明了其有效性。
文档级实体提取有哪些新方法？
有一种基于生成式框架的文档级实体提取方法，能够高效地捕获跨多实体的相关信息，使用了一种名为TopK Copy的交叉注意力引导复制机制，实验结果表明此方法达到了科技论文数据集上的新的最优结果。
医学实体抽取有什么新进展？
有一种新的医学实体抽取方法，利用预训练的transformer模型，将电子健康记录作为单步多标签分类任务进行边缘微调，无需人工干预，达到了人类级别的分类质量。
HealthE数据集和EPS-BERT模型是什么？
HealthE是一个新的已注释数据集，对公共卫生相关文本的实体标签空间进行了更精细的标记。EPS-BERT是一个新的实体分类模型，在实体类别分类中利用了文本上下文模式。该模型的F1评分比最近的基线模型提高了4个百分点，在与从临床文本中提取疾病和药物提及的训练好的现成医疗NER工具相比时，F1评分提高了34个百分点，且所有代码和数据均在Github上公开。
