图灵程序的通用长度泛化
原文中文，约300字，阅读约需1分钟。发表于：。通过提出图灵程序，将算法任务分解为模仿图灵机计算步骤的链式思维策略从而实现对一系列算法任务的稳健长度泛化，并证明了变压器模型能够实施图灵程序，并构造了一个模拟任意图灵机的简单 RASP（Weiss et al.）程序。
通过实验和注意力分析，研究了transformer模型在学习算术算法方面的能力，并确定了关键因素。展示了transformer模型能够通过有针对性的注意力偏置推广到长长度，并引入了注意力偏置校准阶段。使用ABC，transformer模型在某些算术任务上达到了完美长度广义。
