NOVA: 基于片上网络的向量单元,用于在 CNN 加速器上映射注意力层

💡 原文中文,约2000字,阅读约需5分钟。
📝

内容提要

本研究介绍了NOVA,一种基于NoC的向量单元,可在加速器的NoC中执行非线性操作,并能覆盖现有的神经加速器,以在边缘计算中映射注意力层。NOVA体系结构比最先进的硬件逼近器高效节能,可提高功率效率高达37.8倍。

🎯

关键要点

  • 本研究介绍了NOVA,一种基于NoC的向量单元。

  • NOVA可以在加速器的NoC中执行非线性操作。

  • NOVA能够覆盖现有的神经加速器,以在边缘计算中映射注意力层。

  • NOVA体系结构比最先进的硬件逼近器高效节能。

  • NOVA可提高功率效率高达37.8倍。

延伸问答

NOVA是什么?

NOVA是一种基于NoC的向量单元,用于在加速器中执行非线性操作。

NOVA如何提高功率效率?

NOVA的体系结构比最先进的硬件逼近器高效节能,功率效率提高高达37.8倍。

NOVA在边缘计算中的应用是什么?

NOVA能够覆盖现有的神经加速器,以在边缘计算中映射注意力层。

NOVA与现有神经加速器相比有什么优势?

NOVA在执行非线性操作时比现有神经加速器更高效,能更好地支持注意力层的映射。

NOVA的设计基础是什么?

NOVA基于片上网络(NoC)设计,旨在优化加速器的性能。

NOVA的研究结果表明了什么?

研究结果表明,NOVA在运行基于注意力的神经网络时,能显著提高能效。

🏷️

标签

➡️

继续阅读