本研究提出Mamba-Shedder方法，解决了变换器架构在序列建模中的效率问题。通过去除SSR模型的选定组件，实现了模型压缩和计算开销减少，推理速度提升最高达1.4倍，且对模型性能影响最小。

Mamba-Shedder: Post-Transformer Compression for Efficient Selective Structured State Space Models
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证