Shanghai Jiao Tong University's New SRAM In-Memory Computing Architecture 'COMPASS' Opens a New Era of Brain-like Computing
内容提要
该文章介绍了基于SRAM的存内计算架构COMPASS，用于高效部署脉冲神经网络SNN。通过利用输入和输出脉冲的稀疏性，减少了冗余计算和内存占用，实现了高效的并行执行。性能评估结果显示，COMPASS在端到端加速方面提升了24.4倍，能耗降低了386.7倍。这一创新成果为低能耗人工智能的发展提供了新的思路和支持。
延伸解读
稀疏性利用：从显式到隐式的突破
COMPASS架构的核心创新在于同时利用输入脉冲的显式稀疏性和输出脉冲的隐式稀疏性。传统CIM架构难以高效处理脉冲的不规则性和时间依赖性，而COMPASS通过动态脉冲模式的推测机制，显著减少了冗余计算。这种对稀疏性的深度挖掘，不仅提升了计算效率，还降低了硬件开销，为SNN硬件加速提供了新思路。
性能提升：加速与节能的双重优势
根据论文评估，COMPASS在端到端加速方面实现了24.4倍的提升，同时每次推理的能耗降低了386.7倍。这一结果在与现有SNN加速器硬件的对比中尤为突出，表明COMPASS在保持高能效的同时，有效减少了计算延迟和内存占用，为SNN在边缘设备上的部署提供了可能。
应用前景：低能耗AI的使能技术
COMPASS架构有望在物联网、自动驾驶、智能机器人等对能效要求极高的领域得到应用。随着SRAM技术的不断发展，COMPASS有望进一步降低能耗，并支持更多SNN模型的高效部署。这一创新为低能耗人工智能的发展提供了新的思路和支持，标志着类脑计算迈出了关键一步。
Q&A
COMPASS架构的主要功能是什么？
COMPASS架构主要用于高效部署脉冲神经网络（SNN），通过减少冗余计算和内存占用，实现高效的并行执行。
COMPASS在性能评估中表现如何？
COMPASS在端到端加速方面提升了24.4倍，能耗降低了386.7倍，显示出其在处理SNN任务中的优越性。
COMPASS架构如何减少计算延迟？
COMPASS通过引入动态脉冲模式的推测机制，显著减少冗余计算，从而降低推理延迟。
COMPASS架构的创新点是什么？
COMPASS架构创新性地利用了输入脉冲的显式稀疏性和输出脉冲的隐式稀疏性，优化了硬件资源利用效率。
未来COMPASS架构可能应用于哪些领域？
COMPASS架构有望在物联网、自动驾驶、智能机器人等领域得到应用。
COMPASS架构的设计团队是谁？
COMPASS架构由上海交大先进计算机体系结构实验室的研究团队完成，第一作者为博士生汪宗武。
