Transformer 长度外推：以位置编码为视角的调查

本文研究了基于解码器的Transformer模型在不同位置编码方式下对长度泛化的影响，发现NoPE表现更优秀且无需额外计算。同时，scratchpad对解决长度泛化问题并不总是有帮助，其格式对模型性能有很大影响。解码器-only的Transformer不一定需要显式的位置嵌入以在更长序列上泛化良好。