本研究通过SWEb数据集解决了斯堪的纳维亚语言预训练数据不足的问题。使用新型文本提取器简化处理,并推出新的填空式基准评估方法,结果与FineWeb数据集上的模型表现相当。
完成下面两步后,将自动完成登录并继续当前操作。