StoX-Net:用于高效内存计算的随机处理部分和的 DNN 加速器

💡 原文中文,约1400字,阅读约需4分钟。
📝

内容提要

本文介绍了一种在内存计算硬件上训练卷积神经网络的方法,提出了基于批标准化的补偿技术,分类精度达到93.7%。研究了非理想误差的优化,提升了深度神经网络的性能,并探讨了基于随机计算的神经网络架构,展示了在硬件限制下的高效性和节能效果。

Q&A

StoX-Net的主要创新点是什么?

StoX-Net提出了一种在内存计算硬件上训练ResNet类型卷积神经网络的方法,分类精度达到93.7%。

如何优化深度神经网络的性能?

通过在线优化减少训练成本和内存,降低量化误差和非理想误差,从而提高深度神经网络的性能。

随机计算在神经网络中的应用效果如何?

随机计算执行基于脉冲神经网络的Transformer模型的点积注意力机制,实现了高准确率和能源效率。

什么是Compute-In-Memory架构?

Compute-In-Memory架构是一种低成本的基于PMOS的8T SRAM设计,用于高效执行乘加操作。

如何提高BayNN的鲁棒性和推断准确性?

通过引入新型标准化层和随机仿射变换,BayNN的推断准确性提高了58.11%。

内存计算架构中如何减少硬件开销?

利用memory-immersed方案减少ADC硬件开销,提高并行性能和减少外部内存访问。

🏷️

标签

➡️

继续阅读