LM-HT SNN：通过可学习的多层次阈值模型增强 SNN 至 ANN 的性能
内容提要
该文综述脉冲神经网络（SNN）训练与转换的主要进展：多阈值方法减少二值激活精度损失，使SNN以更少步骤达到更高准确率；门限平衡与软重置实现几乎无损的ANN到SNN转换；突触阈值协同学习同时训练权重和阈值以提升准确率；优化初始膜电位实现低延迟高精度转换；H2Learn、渐进串联深度SNN、联合训练框架等提升效率与性能。
延伸解读
多阈值方法如何提升SNN性能
文章指出，多阈值（MT）方法能缓解二值激活带来的精度损失，使SNN在更少步骤达到更高准确率。在CIFAR10、CIFAR100和DVS-CIFAR10上的评估表明，MT广泛促进SNN，尤其在早期步骤。例如，基于PLIF的VGG网络使用MT后甚至能在1个步骤中胜过ANN对应物。这显示了MT在降低延迟方面的潜力。
ANN到SNN转换的精度与效率优化
文章综述了多种转换方法：门限平衡和软重置机制实现几乎无损转换，且只需典型模拟时间的1/10；优化初始膜电位使SNN在低延迟下达到与最优性能相当的准确率，并在CIFAR-10、CIFAR-100和ImageNet上取得最新结果。这些方法适合嵌入式平台，兼顾精度与能效。
协同学习与联合训练框架的进展
突触阈值协同学习同时训练权重和阈值，在静态和神经形态数据集上比单独学习明显更高准确率，并可通过广义联合决策框架进一步提升。联合训练框架中ANN引导SNN优化，通过知识蒸馏和参数共享，在CIFAR100上脉冲ResNet-18仅需4个时间步达到77.39% top-1准确率，超越许多先进方法。
其他提升效率与性能的技术
H2Learn架构实现基于BPTT的高效SNN学习，节省面积、加速和节能；渐进串联深度SNN利用脉冲计数逼近激活值，在分类和回归任务中推理时间和突触操作少一个数量级；LaSNN引入attention和分层知识蒸馏，达到与ANN竞争的准确率，推理速度比转换SNN快20倍。这些技术共同推动SNN实用化。
Q&A
多阈值方法如何提升脉冲神经网络的性能？
多阈值方法通过缓解二值激活带来的精度损失，使SNN在更少步骤达到更高准确率。在CIFAR10、CIFAR100和DVS-CIFAR10上的评估表明，MT能广泛促进SNN，尤其在早期步骤中，例如基于PLIF的VGG网络甚至可以在1个步骤中胜过ANN对应物。
如何实现几乎无损的ANN到SNN转换？
使用门限平衡和软重置机制将权重转移至目标SNN，可以降低转换误差，保证几乎不出现精度损失，并且只需要典型SNN模拟时间的1/10，非常适合于对SNN极限能量和内存进行支持的嵌入式平台上的实现。
突触阈值协同学习是什么？它有什么优势？
突触阈值协同学习是一种同时训练SNN中突触权重和阈值的训练方法。与仅使用突触学习或阈值学习的SNN相比，使用该方法训练的SNN在各种静态和神经形态数据集上都具有明显更高的准确性，且可通过引入广义联合决策框架进一步提高性能。
如何通过优化初始膜电位实现低延迟高精度的ANN到SNN转换？
通过优化初始膜电位，使得SNN在低延迟下达到了与最优性能相当的准确率，并在CIFAR-10、CIFAR-100和ImageNet数据集上取得了最新的结果。
H2Learn架构有什么特点？
H2Learn是一种新型架构，可以实现基于BPTT的SNN学习的高效率，从而保证SNN的高精度，并在多个基准数据集上实现了大量的节省面积，加速和节能。
渐进串联深度SNN框架在哪些任务中表现出色？
渐进串联深度SNN是一种ANN到SNN的转换和分层学习框架，利用脉冲计数逼近模拟神经元的激活值，以及适应性训练调度器细化网络权重。其在大规模物体识别、图像重建和语音分离任务中能够展示出出色的分类和回归能力，同时需要的推理时间和突触操作比其他最先进的SNN实现少了至少一个数量级。
联合训练框架如何提升SNN性能？
联合训练框架中，人工神经网络可以引导脉冲神经网络的优化。通过多个网络分支将人工神经网络中的知识提炼到脉冲神经网络中，并限制了两者的参数，分享部分参数和学习不同的独立权重。在多项广泛的网络结构实验中，该方法始终表现出色，超越了许多其他最先进的训练方法。例如，在CIFAR100分类任务中，训练的脉冲ResNet-18模型只需要4个时间步，就可以达到77.39％的top-1准确率。
