远程监督的词形句法模型用于关系抽取
内容提要
该文综述关系抽取的监督、半监督与无监督技术，以及开放信息抽取和远程监督。涵盖的研究包括：基于远程监督的半结构化网站自动抽取、内部注意机制提取细粒度语义特征、多视图学习融合句法与依存信息、首个跨句远程监督抽取方法、从Wikipedia构建证据丰富抽取器以提升问答、统一语义匹配框架实现多任务泛化、结合语法树与句子嵌入的远程监督方法、利用无监督句法分析与预训练词嵌入提取精确关系并微调BERT，以及结合语义增强解决三元组重叠的CasAug模型。
延伸解读
远程监督的演进：从单句到跨句
文章梳理了远程监督关系抽取的发展脉络：早期方法基于半结构化网站自动对齐和标签生成，随后出现内部注意机制提取细粒度语义特征，再到多视图学习融合句法与依存信息。2016年提出的首个跨句远程监督方法表明，跨句关系普遍存在且能提取两倍于现有范例的关系，这提示读者远程监督正从单句假设向更复杂的跨句场景扩展。
无监督与预训练结合的新路径
文章提到一种无需任何监督的关系抽取方法：利用句法分析和预训练词嵌入提取少量精确关系，再注释更大语料库，并在生物医学领域四个数据集上微调BERT。实验显示该方法显著优于两个无监督基线，且在三个数据集上达到最先进结果之一。更重要的是，它证明使用噪声数据微调大型预训练语言模型可行，而不必依赖黄金数据，这为低资源领域的关系抽取提供了实用思路。
统一框架与重叠问题的应对
文章介绍了统一语义匹配框架，通过分离结构化和概念化能力并引入三个标记链接操作，在四个信息抽取任务上达到最先进性能并展现泛化能力，这有助于读者理解多任务统一建模的趋势。此外，CasAug模型结合语义增强机制解决三元组重叠问题，能更好地处理重叠并提取多个关系，说明关系抽取正从单一关系分类向复杂重叠场景演进。
Q&A
远程监督在关系抽取中主要解决什么问题？
远程监督通过将知识库中的关系事实与文本自动对齐来生成训练数据，从而减少人工标注需求，并支持跨句关系抽取等任务。
有哪些方法可以提升远程监督关系抽取的准确性？
文章提到多种方法：使用内部注意机制提取细粒度语义特征；采用多视图学习融合句法信息；结合语法树和句子嵌入；利用无监督句法分析和预训练词嵌入并微调BERT；以及通过CasAug模型结合语义增强解决三元组重叠问题。
跨句关系抽取有什么特别之处？
跨句关系抽取需要从多个句子中提取关系，文章提出了首个远程监督应用于跨句关系抽取的方法，基于图形表示从多条路径中提取特征，实验表明能提取两倍于现有范例的关系，证明了跨句关系的普遍存在。
如何利用Wikipedia提升关系抽取在问答系统中的应用？
文章提出从Wikipedia中提取证据丰富的关系抽取器，使用神经网络构建的关系提取器并结合Wikipedia进行验证，解决了知识型问答系统数据不足等问题，在WebQuestions数据集上取得了53.3%的F1值。
统一语义匹配框架在信息抽取中有什么优势？
该框架将信息抽取分为结构化和概念化两个基本能力，并引入三个统一的标记链接操作，解决了传统方法需定制模型且仅适用于见过数据集的问题，在4个IE任务中达到最先进性能并表现出强大泛化能力。
无监督关系抽取如何利用预训练语言模型？
文章使用句法分析和预训练词嵌入在无监督下提取少量精确关系，用于注释更大语料库，并在生物医学领域四个数据集上微调预训练BERT模型进行关系抽取，实验表明即使不使用监督也取得了三个数据集中的最先进结果之一，证明了使用噪声数据微调大型预训练语言模型的可行性。
