本研究探讨了Transformer语言模型在围棋和国际象棋中的应用，发现模型能够有效跟踪棋子并预测合法棋步。完整的游戏历史对模型表现至关重要。此外，研究开发了LEAP语料库，提升了棋步评估性能，并提出了将词嵌入与知识图谱结合的方法，以优化语义理解。