从部分到严格递增的成分句法分析
内容提要
该文综述多项句法分析研究：指出全面增量依存解析竞争力不足；用探测法证明自回归语言模型具有隐含增量句法推理；提出中序遍历解析系统、短语结构转依存表示、非二元移进归约算法、双向LSTM前瞻特征、线性化树生成、非词汇化转换分析器、潜在树学习及语法感知语言模型SOM，在WSJ等基准上取得进展。
延伸解读
增量解析的挑战与进展
文章指出，基于现代架构的全面增量依存解析在性能上远落后于双向解析，这凸显了严格从左到右处理的难度。然而，后续研究通过中序遍历、双向LSTM前瞻特征等方法，在WSJ等基准上取得了显著提升，表明增量解析在保持心理语言学合理性的同时，正逐步缩小与双向模型的差距。
语言模型中的隐含句法推理
通过探测法，研究发现自回归语言模型在下一词预测中隐含了增量句法推理，能够维护语法结构。这不仅揭示了语言模型对句法的敏感度，也为利用其进行句法分析提供了依据。语法感知语言模型SOM进一步显式建模结构，在语言建模和语法泛化上表现强劲，且参数更少。
表示转换与算法创新
文章介绍了多种创新表示与算法：将短语结构分析转化为依存分析，并在依存标签中编码顺序信息，使任何依存分析器都能生成成分树；非二元移进归约算法减少了转换次数，成为最快的成分句法分析系统之一；非词汇化转换分析器在处理不连续组分时表现更优。这些工作推动了句法分析的效率与准确性。
Q&A
全面增量依存解析与双向解析相比，性能差距有多大？
研究表明，基于现代架构的全面增量依存解析远远落后于双向解析，并面临语言学上合理解析的挑战。
自回归语言模型是否具有隐含的增量句法推理能力？
是的，通过探测法可以从自回归语言模型中提取不完全的句法结构，这些探测器能预测模型对可疑前缀的偏好并进行因果干预，表明下一词预测中存在隐含的增量句法推理。
中序遍历解析系统在WSJ基准上的表现如何？
基于中序遍历的解析系统在WSJ基准上实现了91.8 F1，经过有监督重排序后达到93.6 F1，半监督重排序后达到94.2 F1。
如何将短语结构分析转化为依存分析？
通过一种新的中间表示法，将短语表示分析转化为依存分析，并在依存标签中编码顺序信息，使得任何可训练的依存分析器都能生成成分结构。
非二元移进-规约算法有什么优势？
该算法使用更少的转换，成为最快的基于移进-规约的组成句法分析系统，能加快下游任务，同时准确性可与最先进的系统媲美，并在WSJ部分超过所有自上而下有效移进-规约的系统。
双向LSTM前瞻特征如何提升成分句法分析性能？
利用双向LSTM模型提取向前追望特征，并将结果传递给强大的过渡性成分分析器，在WSJ上提高了1.3%的准确性，在CTB上提高了2.3%。
非词汇化转换分析器在处理不连续组分时表现如何？
非词汇化模型在处理不连续组分句法结构时具有更好的性能表现，尤其是在英语和德语的领域中。
SOM语法感知语言模型有什么特点？
SOM通过增量式解析器显式建模结构，保持从左到右的条件概率设置，在语言建模、增量解析和语法泛化测试中取得强大结果，且参数更少。
