在实际的内存处理系统上加速图神经网络
内容提要
该文综述以内存为中心的计算系统，探讨存内计算（PIM）架构如何缓解处理器内存访问瓶颈与能耗问题，并评估其在机器学习训练中的潜力。研究提出NicePIM优化方案、记忆层图神经网络、故障感知框架FARe及轻量级算子Epitome等。实验表明，PIM在吞吐量、能效和准确率上优于传统CPU和GPU，可应用于边缘计算与可持续计算。
延伸解读
PIM 如何缓解内存瓶颈
文章指出，传统处理器在运行图神经网络等负载时，面临内存访问瓶颈与高能耗问题。存内计算（PIM）架构将部分计算移至内存附近或内部，减少数据搬运，从而提升吞吐量和能效。实验对比显示，PIM 在经典算法上的表现优于传统 CPU 和 GPU，这为内存密集型任务提供了新的硬件思路。
面向 GNN 的专用优化方案
针对图神经网络，文章介绍了多种优化工作：NicePIM 通过 PIM-Tuner、PIM-Mapper 和 Data-Scheduler 优化 DRAM-PIM 的硬件配置与 DNN 映射；MemGNN 和 GMN 利用记忆层联合学习节点表示与图表达；FARe 则针对 ReRAM 故障，在仅增加约 1% 时间开销下将测试准确率提升 47.6%。这些方案从不同层面提升了 PIM 上 GNN 的可用性。
边缘与可持续计算的潜力
文章还探讨了 PIM 在边缘计算和可持续计算中的应用。研究比较了卷积神经网络加速引擎在边缘推理和在线训练中的表现，涉及处理内存、移动 GPU 和 Racetrack 存储器。结果表明，采用更可持续的处理器内存和移动 GPU 加速器可有效降低计算能耗，这为资源受限场景下的 GNN 部署提供了参考。
Q&A
什么是存内计算（PIM）架构？它主要解决什么问题？
存内计算（PIM）架构是一种以内存为中心的计算系统，旨在缓解处理器内存访问瓶颈和大量能量消耗的问题。它通过将计算任务转移到内存附近或内部执行，减少数据搬运，从而提升能效和性能。
NicePIM是什么？它包含哪些关键组件？
NicePIM是一种针对DRAM-PIM加速器的硬件架构和DNN映射的高效优化方案，包含三个关键组件：PIM-Tuner、PIM-Mapper和Data-Scheduler。实验表明，与基准方法相比，NicePIM能有效优化DRAM-PIM系统的硬件配置，并生成具有较低时延和能耗成本的高质量DNN映射方案。
MemGNN和GMN是什么？它们有什么特点？
MemGNN和GMN是基于一种有效记忆层构建的两个新图神经网络，该记忆层可以联合学习节点表示和减少图表达，从而学习层次化图表示。实验结果表明，这些模型在九个图形分类和回归基准测试中实现了先进的结果，且学习到的表示可以对应于分子数据的化学特征。
FARe框架的作用是什么？它在故障情况下表现如何？
FARe是一种故障感知的框架，用于在存在故障情况下减轻训练图神经网络的影响。实验结果表明，相比无故障情况下的对比系统，FARe框架可以在故障的ReRAM硬件上只增加约1%的时间开销，将GNN测试准确率提高47.6%，在准确性和时间开销方面优于现有方法。
Epitome是什么？它在处理内存加速器上有什么优势？
Epitome是一个轻量级神经算子，为处理内存加速器（EPIM）设计了高效的卷积操作符，以解决大规模神经网络在受限芯片内存容量上的挑战。实验结果表明，3位量化EPIM-ResNet50在ImageNet上达到了71.59%的top-1准确率，将交叉栏面积降低了30.65倍，超过了PIM的最先进修剪方法。
PIM架构在机器学习训练中的性能表现如何？
实验表明，PIM在吞吐量、能效和准确率上优于传统CPU和GPU。例如，使用MIMD处理器（Intelligence Processing Unit）的稀疏激活张量在训练负载上实现了5-10倍的吞吐量增益，且在训练收敛或最终模型性能上没有明显减慢。
