Quantization of the Mamba Family Using Variance-Aligned Rotation Method
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究提出MambaQuant量化框架，解决Mamba模型中门投影和输出投影的异常值问题，实现8位权重和激活量化，准确率损失低于1%。
🏷️
