我们提出了一种评估多语言大型语言模型在多形式语法结构方面学习句法的方法。研究结果表明该框架在多种编码上一致。预先训练的词向量不偏好成分句法表示,而是倾向于依赖表示。子词标记化需要用于表示语法,与基于字符的模型不同。从词向量中恢复语法时,语言在预训练数据中的出现比任务数据的数量更重要。
该研究提出了一种评估多语言大型语言模型在多形式语法结构方面学习句法的方法,结果表明该框架在多种编码上一致,子词标记化需要用于表示语法。
完成下面两步后,将自动完成登录并继续当前操作。