本文探讨了多语言语言模型(MLLMs)在多语言知识图谱(MLKGs)中的应用,提出了轻量级适配器以增强跨语言实体对齐和知识获取。研究表明,适配器模型在强化学习和语言模型之间建立了更好的联系,提升了机器翻译和文本属性图建模的效果,尤其在低资源语言环境中表现突出。
最近的研究发现,在多语言语言模型中引入语言模块化可以通过使用稀疏微调的语言子网络来更好地引导跨语言共享。稀疏微调可能减少子网络的语言专门化,更倾向于进行跨语言共享。
本文提出了一个新的跨语言生物医学实体链接任务,并建立了一个涵盖10种语言的基准测试。研究了标准、知识增强的单语和多语言语言模型在标准英语生物医学实体链接任务之外的能力,并解决了把资源丰富的语言中的领域特定知识传递给资源贫乏的语言的挑战。提出并评估了一系列的跨语言传递方法。研究表明,本文提出的领域特定传递方法在所有目标语言中均获得了持续的提高,有时可高达20个Precision@1点,而无需目标语言具有领域内的知识和对应的并行数据。
完成下面两步后,将自动完成登录并继续当前操作。