本研究提出了一种新颖的时间转换模块,有效解决了脉冲神经网络在处理时间特征与低能耗之间的矛盾,显著提高了效率和准确性。
研究发现,脉冲神经网络(SNN)在抵御攻击方面优于传统神经网络,但新出现的“BIS”攻击利用隐性梯度漏洞,能够有效突破多种防御机制,揭示了SNN训练的根本脆弱性。
本研究提出了一种自注意时空校准(SASTC)方法,以解决脉冲神经网络(SNN)在低功耗计算中的准确性问题。实验结果表明,SASTC显著提升了SNN在CIFAR-10和CIFAR-100数据集上的表现,超越了人工神经网络(ANN)。
本研究提出了一种创新框架,利用对比学习和强化学习优化器,解决癌症研究中的数据稀缺和GAN训练不平衡问题。结果显示,该方法在多个指标上优于现有模型,为癌症早期诊断和治疗提供了新工具。
该文章介绍了基于SRAM的存内计算架构COMPASS,用于高效部署脉冲神经网络SNN。通过利用输入和输出脉冲的稀疏性,减少了冗余计算和内存占用,实现了高效的并行执行。性能评估结果显示,COMPASS在端到端加速方面提升了24.4倍,能耗降低了386.7倍。这一创新成果为低能耗人工智能的发展提供了新的思路和支持。
本文介绍了脉冲神经网络(SNNs)作为深度神经网络的替代方法在信号处理应用中的广泛应用,包括神经形态计算和训练扩展方法。同时,还讨论了构建可部署SNN系统的基础硬件挑战。
本研究提出了一种新型的对抗性鲁棒稳态脉冲神经网络(HoSNN),利用阀值自适应泄漏积分火(TA-LIF)神经元模型来抵御脉冲神经网络(SNNs)对抗性攻击的易感性。实验结果显示,HoSNN在CIFAR-10上展示了固有的鲁棒性,对FGSM和PGD攻击的准确率分别提高到72.6%和54.19%。通过最小程度的FGSM对抗训练,HoSNN在CIFAR-10上对FGSM攻击和PGD攻击的准确率分别超过了以往模型的29.99%和47.83%。这一发现为加强SNNs的对抗鲁棒性及防御提供了新的生物学原理视角。
通过引入修剪优化进行基于输入感知的动态膜晶体突触网络 (PRIME),我们克服了机器学习中的根本挑战,实现了优化系统拓扑结构、降低延迟、提高能效并达到与软件基准相媲美的分类准确性。
本研究探讨了神经形态计算和边缘计算相结合的潜力,创建了一个适用于处理动态视觉传感器捕获数据的多功能机器学习系统。通过混合使用PyTorch和Lava框架构建和训练了混合模型,融合脉冲神经网络(SNNs)和人工神经网络(ANNs)。研究结果表明,混合脉冲神经网络在所有指标上均优于基准人工神经网络模型,并在准确性和延迟方面优于基准脉冲神经网络模型。
通过引入轻量级的Forward Temporal Bias Correction (FTBC)技术,提出了一种改善ANN-SNN转换准确性的方法。通过适当的时间偏差校准,使得在每个时间步长后ANN-SNN转换的预期误差减少为零。进一步提出了一种启发式算法,在前向传递中仅查找时间偏差,从而消除了反向传播的计算负担,并在CIFAR-10/100和ImageNet数据集上评估了方法,实现了显著的准确性增加。
基于事件的传感器在高速平台中部署,但稀疏和波动性对传统目标检测技术构成挑战。脉冲神经网络适用于基于事件的数据,通过调节网络活动的膜电位动力学来增强稀疏输入特征。脉冲触发的自适应阈值稳定训练,提高网络性能。提出的SNN在基准数据集上取得显著成绩,超过以前最好的SNN。模型结构简洁,保持高精度和低计算成本。
本文介绍了一种新的框架,通过提取和聚类高度激活CNN神经元的输入表征模式来解释多元时间序列数据,并生成可解释的时间序列特征表示。实验证明该框架在MTS分类中具有明显优势。
通过分析多阈值模型、简单尖峰模型和量化人工神经网络之间的关系,提出了一种新颖的LM-HT模型,可以动态调节全局输入电流和膜电位漏电。该模型可以与传统的ANN-SNN转化框架集成,提高低时间延迟下经过转换的SNN的性能。实验证明,LM-HT模型在各类数据集上优于之前的最先进工作,达到了与量化ANNs相当的性能水平。
Spikformer是一种结合了自注意力和脉冲神经网络的SNN设计架构,使用脉冲自注意力模块混合稀疏视觉特征,并通过线性变换加速。实验结果显示,具有线性变换的Spikformer在图像分类方面具有更高的准确率和更快的速度。
SpikingJelly是一个全套工具包,用于构建深度SNN并将其部署到神经形态芯片,具有可扩展性和灵活性,加快了深度SNN的训练速度,为合成高能效的基于SNN的机器智能系统铺平了道路。
完成下面两步后,将自动完成登录并继续当前操作。