本文介绍状态空间模型（SSM）如何通过固定大小状态压缩历史，解决Transformer长序列瓶颈。S4用HiPPO矩阵实现长程记忆，Mamba引入选择性机制按内容更新状态，并用并行扫描保持训练效率。推理时SSM显存O(1)优于KV Cache，但在精确检索任务上受容量限制。SSD揭示SSM与注意力对偶，混合架构如Jamba平衡两者优势。

本文讨论了策略梯度方法在语言模型训练中的应用，重点介绍了REINFORCE算法。通过log-derivative技巧，策略梯度能够优化期望回报，而无需对不可微奖励求导。文章还分析了高方差问题及其在长序列和稀疏奖励中的影响，并介绍了RLOO等现代改进方法，以降低方差并提高训练稳定性。

DeepSeek-V3.2-Exp模型已在华为云上线，采用稀疏Attention架构，提升推理效率，降低资源消耗，支持160K长序列，适合企业和开发者使用。

Mamba探讨了状态空间模型（SSMs）与Transformer的优劣，指出Attention并非万能，SSMs在处理长序列信息时更具优势。Mamba在同规模下超越Transformer，强调混合模型的潜力，未来可能结合两者优势开发新架构。

本研究提出了ATTENTION2D方法，旨在解决传统自注意力机制在处理长序列时的计算和内存成本问题。该方法通过查询与键/值维度的并行性，实现了高效的分布与并行化，实验结果显示训练和推理速度提升了5至9.4倍。

本研究提出LServe系统，旨在解决长序列大型语言模型在预填充和解码阶段的计算复杂度和内存占用问题。通过混合稀疏注意力，该系统使预填充速度提升近2.9倍，解码速度提升1.3-2.1倍，同时保持长序列的精度。

本研究提出LASP-2序列并行方法，优化线性注意力的右乘特性，显著提升长序列训练的通信和计算并行性，训练速度比LASP快15.2%，比环形注意力快36.6%。

本文探讨了传统Softmax注意力在推理令牌长度增加时的数值不稳定和性能下降问题。提出了一种新颖的Softplus注意力机制，结合动态长度尺度因子和重新加权，显著提升了大型语言模型在处理长序列时的稳定性和性能。

本研究提出了TreeKV，一种直观且无需训练的键值缓存压缩方法，旨在解决长序列和资源有限环境中的信息保留问题。TreeKV通过树结构实现平滑缓存压缩，在语言建模任务中表现优异，相比基线模型在长上下文中显著提升性能，最佳效率仅需6%的预算。

本研究首次全面评估RWKV模型，填补了系统性综述的空白。RWKV通过独特的递归框架有效处理长序列，降低计算成本，展现出优越性能，并指出未来研究方向。

本研究提出了一种高效的Perceiver基架构（Long LoRA Perceiver - LLP），旨在解决Transformer在长序列处理中的复杂度问题。通过引入三种结构增强，该架构在自回归建模中实现了高性能与计算效率的平衡，实验结果表明其在多个基准测试中超越了最新的Transformer模型。

InfiniDreamer是一个新框架，解决了现有运动生成方法只能生成短序列的问题。它通过生成与文本描述对应的子运动，并利用片段评分蒸馏（SSD）优化长序列，从而能够生成一致且具上下文意识的任意长度运动序列。实验结果表明，该方法优于现有技术。

Mamba是一种基于选择性状态空间模型的架构，旨在解决Transformer在推理中的计算复杂性问题。Mamba在处理长序列时表现优异，推断速度比Transformer快5倍，并在多个任务上实现了先进性能，特别是在长上下文理解能力上有所提升，展现出作为高效替代品的潜力。