本研究探讨了基于Transformer的语言模型在论证结构学习中的应用，提出了识别关键词汇及其对预测贡献的有效方法。研究表明，Transformer模型在处理语法信息和语义结构方面优于循环神经网络，并在多个任务中表现出更好的性能。

本文提出了多种新方法用于论点挖掘，包括基于神经网络的模型和双重注意机制，旨在提高论证结构的提取和分析效果。这些方法在多个数据集上表现优异，推动了自然语言处理领域的发展。