NLU-STR 在 SemEval-2024 任务 1 中的应用：基于生成的增强和基于编码器的评分方法用于语义文本相关性
内容提要
本文介绍了SemRel，一个由14种语言的母语者注释的语义相关性数据集。研究探讨了句子对之间的语义文本相关性，开发了针对非洲和亚洲语言的模型，并在SemEval-2024任务中取得了优异成绩。研究还关注数据增强和跨语言迁移，以提升低资源语言的自然语言处理性能。
延伸解读
SemRel 数据集的构建与特点
SemRel 是一个由14种语言母语者注释的语义相关性数据集，每个实例为句子对并附有相关性分数。分数通过比较性注释框架获得，旨在捕捉句子间的语义文本相关性程度。该数据集覆盖多种语言，为评估模型在多语言环境下的语义理解能力提供了资源。
TranSem 模型与 SemEval-2024 任务表现
研究团队开发了针对非洲和亚洲语言的 TranSem 模型，并在 SemEval-2024 任务1中参与监督式和非监督式轨道。他们采用基于 BERT 的对比学习、自动编码器以及负采样策略生成精炼词嵌入。在子任务A（监督学习）和子任务C（跨语言迁移）中，系统排名最高，展示了方法的有效性。
低资源语言的数据增强与跨语言迁移
针对低资源语言训练数据有限的问题，研究使用机器翻译进行数据增强，并对未标记任务数据进行任务自适应预训练。模型训练探索了完全微调和基于适配器的微调，适配器框架实现了有效的零次跨语言迁移。在跨语言轨道中，通过源语言选择策略，在 Kinyarwanda 测试集上取得了第一名。
Q&A
SemRel数据集的主要特点是什么？
SemRel是一个由14种语言的母语者注释的语义相关性数据集，旨在探索句子对之间的语义文本相关性。
TranSem模型在SemEval-2024任务中的表现如何？
TranSem模型在SemEval-2024任务中取得了优异成绩，特别是在非洲和亚洲语言的语义文本相关性检测中表现突出。
研究中使用了哪些方法来提升低资源语言的处理性能？
研究关注数据增强和跨语言迁移，使用机器翻译进行数据增强，并进行任务自适应预训练。
SemEval-2024任务的主要目标是什么？
SemEval-2024任务的主要目标是自动检测句子对之间的语义文本相关性，涵盖高资源和低资源语言。
研究中提到的负采样策略有什么作用？
负采样策略用于创建一个双词相关性语料库，从而生成精炼的词嵌入，改善模型的性能。
在SemEval-2024任务中，团队参与了哪些子任务？
团队参与了监督式轨道和非监督式轨道的两个子任务。
