相对位置的功能内插改进长上下文 Transformer
原文中文，约300字，阅读约需1分钟。发表于：。使用功能性相对位置编码与渐进插值方法 (FIRE) 对 Transformers 进行训练，在处理更长的上下文时具有更好的泛化性能。
本文研究了基于解码器的Transformer模型在使用不同位置编码方式时对长度泛化的影响。发现NoPE表现更优秀，无需额外计算，能代表绝对和相对位置嵌入。但在使用SGD训练时，主要呈现T5相对位置嵌入的注意力模式。同时，scratchpad并不总是有助于解决长度泛化问题，其格式对模型性能有很大影响。表明解码器-only的Transformer不一定需要显式的位置嵌入以在更长的序列上泛化良好。
