SpikingResformer: 在脉冲神经网络中连接 ResNet 和 Vision Transformer
原文中文，约600字，阅读约需2分钟。发表于：。提出了一种名为 Dual Spike Self-Attention (DSSA) 的新型脉冲自注意机制以及相应的 Spiking Neural Networks 架构，命名为 SpikingResformer，通过将 ResNet-based 多阶段架构与 DSSA 相结合，提高了性能和能源效率，同时减少了参数。实验结果表明，相比其他脉冲式 Vision...
Spikformer结合了自注意力机制和脉冲神经网络（SNNs），将Transformer架构应用于SNN设计。它引入了脉冲自注意力（SSA）模块，在许多数据集上实现了最先进的性能。通过用非参数线性变换替换SSA，Spikformer可以加速，降低时间复杂度。大量实验表明，与SSA相比，线性变换具有更高的准确性和更快的训练/推理速度。
