一种用于模拟内存计算的精密优化定点近存数字处理单元
内容提要
该文汇总了模拟存内计算（AiMC）芯片的多项研究，包括：AiDAC架构提升多位计算效率与精度；AIHWKit工具支持DNN推理与训练；AnalogNAS框架优化TinyML部署；TPU-IMAC异构架构提升移动CNN性能并节省内存；以及PMOS 8T SRAM、赛道存储器、NeuroCluster等方案，还有PCM训练ResNet达93.7%精度、微控制器混合精度部署等方法。
延伸解读
模拟存内计算的研究脉络与多样性
文章汇总了从2017年到2024年模拟存内计算（AiMC）的多项研究，涵盖架构、工具、算法和硬件实现。这些工作展示了该领域从早期减少ADC开销，到近期结合新型存储器（如赛道存储器、PCM）和异构集成（如TPU-IMAC）的演进。读者可借此了解AiMC技术路线的多样性，以及不同团队在提升能效、精度和可扩展性方面的探索。
精度与能效的平衡策略
多项研究致力于在模拟计算中保持数字级精度。例如，PCM训练ResNet在CIFAR-10上达到93.7%精度，微控制器混合精度部署在STM32H7上实现68% Top-1精度，较8位实现提升8%。这些案例表明，通过算法补偿（如批标准化参数补偿）和混合精度量化，可以在资源受限条件下逼近软件精度，为边缘部署提供参考。
面向边缘与移动设备的优化
TPU-IMAC异构架构利用TPU处理卷积层、IMAC处理密集层，实现高达2.59倍性能提升和88%内存减少；AnalogNAS框架针对TinyML任务优化模型，在64核IMC芯片上超越SOTA准确性；NeuroCluster方案平均性能240 GFLOPS，能效22.5 GFLOPS/W。这些工作共同指向移动和边缘场景对高能效、低延迟推理的需求。
Q&A
AiDAC架构如何提升模拟内存计算的多位计算效率？
AiDAC通过引入In-charge computing和In-time interconnection，减少了数据转换时间，支持大规模全模拟多位向量矩阵乘法运算，同时保持高精度、高并行性、低延迟和高能效。
AIHWKit是什么？它有什么功能？
AIHWKit是IBM开发的模拟硬件加速套件，是一个Python库，用于模拟使用AIMC进行DNN推理和训练，支持正确进行推理和训练的最佳实践，并提供Analog AI Cloud Composer云环境来使用和扩展该平台。
AnalogNAS框架的目标和性能如何？
AnalogNAS是一个自动化DNN设计框架，目标部署在模拟内存计算推理加速器上。通过大量硬件模拟，它在各种TinyML任务上展示性能，在64核IMC芯片上实现的模型比SOTA模型具有更高准确性。
TPU-IMAC异构架构在移动CNN性能上有哪些提升？
TPU-IMAC将IMAC单元与边缘TPU集成，利用TPU卷积层和IMAC密集层的优势，采用统一混合精度训练算法。模拟结果显示，在各种CNN模型中实现了高达2.59倍的性能提升和88%的内存减少，同时保持可比较的准确性。
在PCM上训练ResNet类型CNN的精度如何？
利用memory-immersed方案和基于批标准化参数的补偿技术，在PCM上训练ResNet类型CNN，在CIFAR-10数据集上达到93.7%的分类精度，在ImageNet基准测试上达到71.6%的top-1精度。
如何在微控制器上部署低误差的深度神经网络？
通过混合低位宽压缩（结合8、4或2位均匀量化），以整数运算建模推理图，确定每个激活和权重张量的最小位精度，运用量化感知重训练和整数通道归一化图层，将模型部署到只有2MB FLASH和512kB RAM的设备上。在STM32H7上，混合精度MobilenetV1的Top1精度比8位实现提高了8%，达到68%。
