能量高效非结构稀疏深度神经网络的排序权重分区算法
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
论文提出了一种利用忆阻器的框架,通过结构化权重剪枝和权重量化,结合交替方向乘子法优化DNN训练。在VGG-16和ResNet-18上实现了显著的权重压缩和功耗、面积降低,精度损失很小。
🎯
关键要点
- 论文提出了一种基于忆阻器的框架,结合结构化权重剪枝和权重量化。
- 采用交替方向乘子法(ADMM)优化深度神经网络(DNN)训练。
- 在VGG-16和ResNet-18上实现了显著的权重压缩和功耗、面积降低。
- VGG-16实现了29.81X的权重压缩比,功耗和面积降低98.38%。
- ResNet-18实现了20.88X的权重压缩比,功耗和面积降低96.96%。
- 精度损失仅为0.5%(VGG-16)和0.76%(ResNet-18)。
➡️