本文研究了如何通过结构性解析提升Transformer语言模型的句法推理能力，提出了Tree-Planted Transformers（TPT）和结构化语言生成模型（SLGM），展示了在无监督条件下有效学习句法结构的潜力，实验结果表明这些模型在多个任务中具有优越的泛化能力。