本文介绍了一种名为KoBigBird-large的大规模韩语BigBird模型,采用作者提出的TAPER编码,能够在韩语语言理解方面实现领先水平并处理长序列。实验证明,该模型在韩语语言理解基准测试中表现出类似的领先水平,并在长序列上的文档分类和问题回答任务中展现了更好的性能。
完成下面两步后,将自动完成登录并继续当前操作。