本研究提出平铺闪存线性注意力（TFLA）算法，旨在解决线性 RNN 在长序列建模中的计算效率和内存消耗问题。TFLA 通过序列并行化显著提升内核性能，实验结果表明其速度优于优化的闪存注意力，为高效长上下文序列建模设立了新标准。

本研究提出了一种双线性序列回归（BSR）模型，旨在改善高维标记长序列建模的不足。该模型简化了学习过程，并引入消息传递算法以优化性能，发现梯度下降算法在BSR模型中具有意想不到的特性。

通过引入选择性扫描空间状态顺序模型（Mamba），提出了具有线性复杂度的长序列建模的MambaMIL。通过继承香草Mamba的能力，MambaMIL能够全面理解和感知实例的长序列，并借助序列重新排序的Mamba（SR-Mamba）有效地捕获更具有区分度的特征，并减轻与过度拟合和计算负担过重相关的挑战。通过对九个不同数据集上的两个公开挑战任务进行的大量实验，我们的提出的框架相对于最先进的MIL方法取得了良好的性能。