本文研究了一种基于格子结构的LSTM模型用于汉语命名实体识别，该模型利用了单词和单词序列信息，优于基于字符的方法和基于单词和字符的LSTM基线，取得了最佳结果。

该文介绍了基于对比学习的新型预训练策略 CONTRASTE，提高了 Aspect Sentiment Triplet Extraction（ASTE）的性能，并在其他 ABSA 任务上也有优势。通过基于编码器-解码器模型的多任务方法进行细调，实现了 ASTA 的最新最佳结果。

该研究提出了一种面向知识密集型任务的检索增强式生成模型的多任务训练方法，实验结果表明该方法在 KILT 基准测试中取得了显著的改进，并在 KILT 任务的五项中取得了最佳结果。