本研究提出了一种改进的 Transformer 模型，结合 n-gram 语言模型与神经网络，以提升自然语言处理任务的性能。实验证明该方法优于传统模型，并强调了 n-gram 在文本分析中的重要性。此外，研究探讨了 Transformer 在抽象符号推理任务中的能力及其在不同行业的应用潜力。