状态空间模型（SSMs）在序列建模中逐渐取代变换器，因其在长上下文生成中的高效性。研究表明，通过与外部工具互动，SSMs能够克服在“真正的长形式”生成中的局限，实现任意问题长度的泛化。这表明SSMs在交互式工具应用中可能成为变换器的高效替代方案。