能量高效非结构稀疏深度神经网络的排序权重分区算法

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

论文提出了一种利用忆阻器的框架,通过结构化权重剪枝和权重量化,结合交替方向乘子法优化DNN训练。在VGG-16和ResNet-18上实现了显著的权重压缩和功耗、面积降低,精度损失很小。

🎯

关键要点

  • 论文提出了一种基于忆阻器的框架,结合结构化权重剪枝和权重量化。
  • 采用交替方向乘子法(ADMM)优化深度神经网络(DNN)训练。
  • 在VGG-16和ResNet-18上实现了显著的权重压缩和功耗、面积降低。
  • VGG-16实现了29.81X的权重压缩比,功耗和面积降低98.38%。
  • ResNet-18实现了20.88X的权重压缩比,功耗和面积降低96.96%。
  • 精度损失仅为0.5%(VGG-16)和0.76%(ResNet-18)。
➡️

继续阅读