ParaNames 1.0: 利用 Wikidata 创建一个包含 400 多种语言的实体名称语料库
原文中文,约1400字,阅读约需4分钟。
📝
内容提要
ParaNames 是一个多语言个人名库,涵盖 400 种语言和 1.18 亿个人名,支持命名实体识别和机器翻译。经过七年的新闻分析和维基百科挖掘,该库包含 20 万个名字及其变体,旨在改善名称搜索和机器学习。
🔎
延伸解读
多语言名称资源的构建基础
ParaNames 以 Wikidata 为数据源,通过七年的大规模多语言新闻分析和维基百科挖掘,构建了覆盖 400 种语言、1.18 亿个人名的平行库。这种基于公开数据自动构建的方式,使其能够持续更新并保持多语言覆盖,为命名实体识别和机器翻译等任务提供了基础资源。
对下游任务的实用价值
该资源可直接用于改进数据库或互联网上的名称搜索,为机器学习系统提供命名实体识别规则,并改善机器翻译。文章还提到,使用平行语料库和神经音译模型提取多语言命名实体资源,对知识图谱扩充和双语词典感应等下游任务非常有效。
相关研究的扩展与局限
文章列举了多项相关研究,如针对非洲语言、塔加洛语、斯拉夫语等的命名实体识别工作,以及利用维基百科和 Freebase 自动构建注释器的方法。这些研究展示了多语言命名实体资源的多种构建途径,但也讨论了数据产生过程中的局限性和道德考虑。
❓
Q&A
ParaNames 1.0 是什么?
ParaNames 1.0 是一个多语言个人名库,涵盖 400 种语言和 1.18 亿个人名,支持命名实体识别和机器翻译。
ParaNames 如何改善名称搜索和机器学习?
ParaNames 通过提供多语言的个人名和变体,帮助机器学习系统学习命名实体识别规则,从而改善名称搜索和机器翻译。
ParaNames 的数据来源是什么?
ParaNames 的数据来源包括七年的新闻分析和维基百科挖掘。
ParaNames 包含多少个名字及其变体?
ParaNames 包含 20 万个名字及其变体。
ParaNames 的更新频率如何?
ParaNames 的更新将每日提供。
ParaNames 对非拉丁字母语言的支持如何?
ParaNames 提供了对应于常见实体类型的名称列表资源,以支持非拉丁字母语言的技术发展。
🏷️