集成口罩网络

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

该研究提出了一种新的度量方法,用于降低DNN的内存占用。同时介绍了一种新型可转置细粒度稀疏掩码,并使用最小成本流问题来寻找最优的可转置掩码。此外,还提出了一种将无结构稀疏模型转换为N:M细粒度块稀疏模型的方法。

🎯

关键要点

  • 提出了一种新的度量方法,称为掩码多样性,用于降低DNN的内存占用。
  • 介绍了一种新型可转置细粒度稀疏掩码,适用于前向和后向传递。
  • 使用最小成本流问题来寻找最优的可转置掩码。
  • 提出了一种将无结构稀疏模型转换为N:M细粒度块稀疏模型的方法。
➡️

继续阅读