本文介绍了一种新方法,通过阈值相关批归一化和空间时间反向传播直接训练深度脉冲神经网络(SNN),在多个数据集上取得高准确率。研究探讨了脉冲神经网络的训练挑战及其在神经形态硬件上的应用,强调算法与硬件的共设计,以实现高效能和低延迟。
本文介绍了一种将深度神经网络转换为脉冲神经网络的通用方法,并探讨了在神经形态硬件上部署后的性能提升。研究表明,采用新技术后,功耗降低27倍,能耗降低5倍。通过优化多芯片网络和正则化方法,确保在降低功耗的同时保持高准确性,为高效机器学习应用提供了新思路。
该论文提出了tinySNN框架,通过优化操作和量化参数,提高了脉冲神经网络(SNN)在内存和能源需求上的效率,同时保持高准确性。研究还探讨了人工神经网络(ANN)到SNN的转换方法及其在神经形态硬件上的应用,展示了在多个数据集上的优异性能和能效。
综述深度学习模型架构与环境影响的关系,关注能耗和二氧化碳排放,探讨精度与能效权衡及测量差异。提出NeuralPower逐层预测框架和能耗-精度比指标,预测CNN能耗与运行时间,精度提升达68.5%。总结量化、剪枝、结构效率等技术,提出更激进的CNN剪枝算法,使AlexNet和GoogLeNet能耗分别降低3.7倍和1.6倍。研究移动AI资源利用、延迟与能耗,提出高斯过程回归能量模型。分析计算机视觉中能耗与批次大小、架构无关,能源约束限制最大精度。探讨DNN转SNN部署神经形态硬件,Loihi功耗降低27倍、能耗降低5倍。
本文综述了深度学习与神经形态硬件的多项研究:在内存计算硬件上训练ResNet并补偿批标准化,以提升PCM映射后的精度;用LSTM增强残差网络;通过软硬件协同优化模拟阻性存储的能效;综述噪声标签的噪声建模与鲁棒算法;探讨记忆化与容量、泛化及对抗鲁棒性的关系;展示离子通道储层计算的可行性;将噪声模型嵌入CNN以抗标签噪声;用元学习识别忆阻储层膜电位特征;结合对抗学习与重加权提升噪声鲁棒性;扩展DSE以量化稠密/稀疏映射及1T1R非理想因素的影响。
该文介绍了一种基于神经科学的SNN模型,利用内在可塑性实现监督学习。该模型基于局部脉冲事件,可应用于神经形态硬件,表现良好。
完成下面两步后,将自动完成登录并继续当前操作。