本研究评估了自回归神经语言模型对语法结构维护能力的学习程度，并提出了几种用于提取句法结构的探测器。研究发现这些探测器可用于预测模型对可疑前缀的偏好和进行因果干预，表明自回归神经语言模型具有增量句法推理能力。