全局 - 局部关注机制的关系分类
原文中文,约400字,阅读约需1分钟。发表于: 。本文介绍了一种新颖的全局 - 局部注意机制用于关系分类,通过将全局注意力与局部关注度相结合来提升全局关注度。此外,我们提出了创新的硬与软定位机制,以识别局部注意的潜在关键字。通过同时融入硬和软定位策略,我们的方法对有效关系分类的语境线索提供了更加细致全面的理解。我们在 SemEval-2010 任务 8 数据集上的实验结果显示了我们的方法相对于前期关注机制的优越性能。
该研究提出了一个模型,将知识图谱与改进的注意机制相结合,解决了文本中的语义模糊问题。该模型在字符和词级别上运作,通过集成概念来加深对文本的理解。通过信息增益选择重要词,采用编码器 - 解码器框架对文本及相关概念进行编码。本地注意机制调整每个概念的权重,减少不相关或噪声概念的影响。改进了本地自注意机制中注意分数的计算公式,确保不同频率出现的词语获得更高的注意分数。最后,采用双向门控循环单元(Bi-GRU)从文本中提取特征,提高分类准确性。在多个数据集上展示了该模型在分类任务中的有效性。