RoboTTT——面向机器人策略的上下文扩展：将TTT集成至VLA中形成序列模型(记忆信息被压缩至快速权重中，训练和推理时皆可更新)，如此将视觉-运动上下文扩展到 8K 个时间步
内容提要
RoboTTT将机器人基础模型的视觉-运动上下文扩展至8K时间步，通过测试时训练更新快速权重，在不增加推理延迟下提升性能。相比单步基线，任务性能提高87%，能完成五分钟十阶段装配任务，并支持一次性模仿和即时策略改进，表明上下文长度是机器人模型的新扩展维度。
延伸解读
上下文长度：机器人模型的新扩展维度
文章指出，当前多数机器人基础模型仅利用单步或极短历史的视觉-运动上下文，而大语言模型已证明上下文长度是重要扩展维度。RoboTTT 将上下文扩展到 8K 时间步，相比短上下文基线在任务性能上提升 87%，并首次表明扩展预训练上下文长度能带来稳定的闭环性能提升。这提示研究者，在机器人领域，上下文长度可能成为与模型规模、数据量并列的关键扩展方向。
快速权重：在推理中持续学习
RoboTTT 的核心创新是将测试时训练（TTT）集成到 VLA 策略中，通过快速权重在训练和推理时都进行梯度更新，将历史信息压缩到权重空间。这种设计使模型在部署期间也能学习，从而支持一次性模仿和即时策略改进。相比传统 Transformer 依赖 KV cache 且推理成本随历史增长，快速权重机制保持了推理成本恒定，为长上下文机器人策略提供了可行路径。
长上下文带来的新能力与局限
RoboTTT 在长上下文条件下展现出新能力：能从单个人类视频示范中进行一次性模仿（10 次试验成功 6 次），在外部扰动下成功率 83%（最佳短上下文基线为 53%），并能完成五分钟十阶段装配任务。但文章也隐含局限：训练时需结合序列动作强制与截断反向传播以控制 GPU 内存，且快速权重更新依赖梯度下降，可能对计算资源有要求。这些能力目前仅在特定任务上验证，泛化性仍需探索。
Q&A
RoboTTT是什么？它如何扩展机器人策略的上下文长度？
RoboTTT是一种机器人策略模型和训练方法，它将测试时训练（TTT）集成到视觉-语言-动作（VLA）模型中，通过快速权重在训练和推理时更新，将视觉-运动上下文扩展到8K个时间步，而不增加推理延迟。
RoboTTT相比单步上下文基线在任务性能上提升了多少？
在具有挑战性的真实机器人操作任务中，RoboTTT相比单步上下文基线方法将整体性能提升了87%。
RoboTTT如何实现一次性模仿学习？
RoboTTT通过长上下文条件化，能够从单个上下文中的人类视频示范中进行一次性模仿，在10次试验中成功6次，而基线方法完全失败。
RoboTTT的快速权重是什么？它如何工作？
快速权重是RoboTTT中由梯度下降更新的参数，在训练和推理过程中都会更新，将历史信息压缩到权重空间中。它们与慢速权重（仅在训练时更新）形成对比，使得模型能够在部署期间学习并适应。
RoboTTT如何在不增加推理延迟的情况下扩展上下文长度？
RoboTTT通过将历史信息压缩到快速权重中，避免了像Transformer那样存储所有历史键值对，从而在推理时保持计算成本恒定，不随上下文长度增长。
RoboTTT在外部扰动下的成功率是多少？
在外部扰动下，RoboTTT在83%的试验中取得成功，而最佳短上下文基线的成功率为53%。
RoboTTT如何实现即时策略改进？
RoboTTT通过DAgger Distillation方法，将DAgger风格的“失败到纠正”映射蒸馏到快速权重中，使策略能够在运行过程中即时改进，性能比未针对这一能力训练的同一模型提高36%。
RoboTTT在长时程任务上的表现如何？
RoboTTT能够完整完成一个持续五分钟、包含十个阶段的装配任务，而所有基线方法均未能完成。
