集成口罩网络
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
该研究提出了一种新的度量方法,用于降低DNN的内存占用。同时介绍了一种新型可转置细粒度稀疏掩码,并使用最小成本流问题来寻找最优的可转置掩码。此外,还提出了一种将无结构稀疏模型转换为N:M细粒度块稀疏模型的方法。
🎯
关键要点
- 提出了一种新的度量方法,称为掩码多样性,用于降低DNN的内存占用。
- 介绍了一种新型可转置细粒度稀疏掩码,适用于前向和后向传递。
- 使用最小成本流问题来寻找最优的可转置掩码。
- 提出了一种将无结构稀疏模型转换为N:M细粒度块稀疏模型的方法。
➡️