从RNN到Transformer

2017年发布的《Attention is All You Need》中的原始Transformer模型如今很少被直接使用，研究人员对其进行了多项重要修改，以提高训练速度、扩展规模和提升性能。