NOVA: 基于片上网络的向量单元,用于在 CNN 加速器上映射注意力层
原文中文,约2000字,阅读约需5分钟。
📝
内容提要
本研究介绍了NOVA,一种基于NoC的向量单元,可在加速器的NoC中执行非线性操作,并能覆盖现有的神经加速器,以在边缘计算中映射注意力层。NOVA体系结构比最先进的硬件逼近器高效节能,可提高功率效率高达37.8倍。
🎯
关键要点
-
本研究介绍了NOVA,一种基于NoC的向量单元。
-
NOVA可以在加速器的NoC中执行非线性操作。
-
NOVA能够覆盖现有的神经加速器,以在边缘计算中映射注意力层。
-
NOVA体系结构比最先进的硬件逼近器高效节能。
-
NOVA可提高功率效率高达37.8倍。
❓
延伸问答
NOVA是什么?
NOVA是一种基于NoC的向量单元,用于在加速器中执行非线性操作。
NOVA如何提高功率效率?
NOVA的体系结构比最先进的硬件逼近器高效节能,功率效率提高高达37.8倍。
NOVA在边缘计算中的应用是什么?
NOVA能够覆盖现有的神经加速器,以在边缘计算中映射注意力层。
NOVA与现有神经加速器相比有什么优势?
NOVA在执行非线性操作时比现有神经加速器更高效,能更好地支持注意力层的映射。
NOVA的设计基础是什么?
NOVA基于片上网络(NoC)设计,旨在优化加速器的性能。
NOVA的研究结果表明了什么?
研究结果表明,NOVA在运行基于注意力的神经网络时,能显著提高能效。
🏷️