SparseSwin：具有稀疏 Transformer 块的 Swin Transformer

BriefGPT - AI 论文速递 · 2023-09-11T00:00:00Z

本文提出了一种新的循环单元 SwinLSTM，它与 Swin Transformer 块和简化版的 LSTM 相结合，用自注意力机制替代了 ConvLSTM 中的卷积结构。在多个数据集上，SwinLSTM 在时空预测任务中表现优于最先进的方法，特别在预测准确性方面展现了显著的提升。