精密且容错的模拟神经网络蓝图
原文中文,约400字,阅读约需1分钟。发表于: 。通过使用残余数系统(RNS),我们研究表明,利用 RNS 基于方法的模拟加速器在只使用 6 位精度的数据转换器的情况下,可以实现优于 FP32 精度的 99% 以上的先进 DNN 推断,而传统的模拟核在相同的 DNN 中需要超过 8 位的精度才能达到同样的准确性。此外,我们还使用 RNS 扩展了该方法到 DNN 训练中,可以使用 7 位整数运算高效地训练 DNN,并达到与 FP32...
该研究使用RNS开发了一种基于方法的模拟加速器,可以在只使用6位精度的数据转换器的情况下,实现优于FP32精度的99%以上的DNN推断和高效训练。提出了一种容错数据流,利用冗余RNS纠错码保护计算,以应对模拟加速器中的噪声和误差。