基于减法器的 CNN 推断加速器

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

该研究提出了一种利用减法器提高CNN推理加速器性能的新方法,通过排序、分组和舍入权重来创建组合,从而可以在推理期间将一个乘法和加法运算替换为一个减法运算,从而降低功耗和面积,并通过增加或减少减法器的使用来控制性能增益和准确性损失的权衡。在MNIST数据集和LeNet-5上,采用舍入大小为0.05的设计可以实现32.03%的功耗节省和24.59%的面积减少,仅以0.1%的准确性损失为代价。

🎯

关键要点

  • 该研究提出了一种利用减法器提高CNN推理加速器性能的新方法。
  • 通过排序、分组和舍入权重来创建组合。
  • 在推理期间将一个乘法和加法运算替换为一个减法运算。
  • 该方法降低功耗和面积。
  • 可以通过增加或减少减法器的使用来控制性能增益和准确性损失的权衡。
  • 在MNIST数据集和LeNet-5上,采用舍入大小为0.05的设计实现了32.03%的功耗节省和24.59%的面积减少。
  • 该设计仅以0.1%的准确性损失为代价。
➡️

继续阅读