通过混合梯度计算训练数字绑定的模拟模块
原文中文,约2400字,阅读约需6分钟。发表于: 。本研究解决了标准数字电子领域的能效停滞问题,提出混合模型“前馈绑定的基于能量的模型(ff-EBMs)”,结合了前馈和基于能量的模块以适应数字和模拟电路。此外,我们提出了一种新算法,通过反向传播和“平衡传播”来计算ff-EBMs的梯度,实验证明该方法在ImageNet32上的表现达到了新的SOTA水平,为将自训练的模拟计算模块整合入现有数字加速器提供了可行的路径。
本研究提出了混合模型ff-EBMs,解决了数字电子领域的能效停滞问题。实验证明该方法在ImageNet32上达到了新的SOTA水平。此外,还介绍了其他关于模拟计算、神经网络设计和深度学习的研究。