利用众包进行网络挖掘的日中平行语料库
原文中文，约1200字，阅读约需3分钟。
📝
内容提要
本文介绍了英日平行语料库JParaCrawl的构建及其在机器翻译中的应用，强调了在特定领域的预训练和微调效果。实验结果表明，该语料库显著提高了翻译准确性，并展示了新方法在数据过滤和句子对齐中的优势，推动了跨语言NLP研究的发展。
🔎
延伸解读
语料库规模与质量平衡
JParaCrawl 包含超过 2100 万个独特平行句对，规模显著。但网络爬取数据常含噪声，文章提出利用预训练语言模型过滤噪声句对，并在 WMT 2018 过滤任务上优于基准线。这表明大规模语料库需配合有效过滤方法，才能提升机器翻译准确性。
预训练与微调的实际效益
文章指出，使用 JParaCrawl 进行特定领域的预训练和微调，可达到实例训练模型的水平，并缩短训练时间。对于资源有限或需快速适配新领域的翻译任务，这种策略能降低训练成本，同时保持翻译质量。
跨语言挖掘的技术多样性
文章展示了多种平行语料挖掘技术：边际化双语挖掘从百亿级单语语料中挖掘出 45 亿双语句子；多语句子嵌入从 85 种语言维基百科提取 1.35 亿平行句子；课程资料挖掘达到 96% 句子对齐 F1 分数。这些方法覆盖不同数据源和语言对，为跨语言 NLP 研究提供了丰富工具。
❓
Q&A
JParaCrawl平行语料库的主要特点是什么？
JParaCrawl平行语料库包含超过2100万个独特的平行句对，能够提高机器翻译模型的准确性。
如何利用JParaCrawl进行机器翻译的预训练和微调？
JParaCrawl在特定领域的预训练和微调中表现出色，能够缩短训练时间并提高翻译准确性。
JParaCrawl在数据过滤方面有什么创新？
提出了一种利用预训练语言模型过滤噪声句对的方法，显著优于基准线。
如何从维基百科中提取平行句子？
使用多语句子嵌入方法自动从85种语言的维基百科中提取平行句子，共提取了1.35亿个平行句子。
JParaCrawl对跨语言NLP研究的影响是什么？
JParaCrawl推动了跨语言NLP研究的发展，提高了机器翻译模型的表现。
使用JParaCrawl进行机器翻译的实验结果如何？
实验结果表明，使用JParaCrawl显著提高了翻译准确性，并在多个测试集上超越了基准结果。
🏷️
