该文综述存内计算(CiM)用于机器学习推断的研究。通过架构与算法协同设计,可显著提升能效与性能,如INT-8精度能耗降至0.12倍、性能增益达4倍;NACIM框架能效达16.3 TOPs/W,并降低设备变异影响76.44%。研究还涵盖混合精度训练、最坏情况感知训练及基于PCM、RTM等硬件的ResNet训练方法,实现高精度与高能效。
该文综述存内计算(CiM/PIM)研究:提出面向瓦片式存内计算架构的跨层调度算法CLSA-CIM,利用率最高提升17.9倍,速度提升29.2倍;验证CiM可显著降低机器学习推断能耗;探讨PIM在数据中心、关联处理器、神经架构搜索及编译基础设施(如MLIR)中的应用,并介绍高能效全模拟多位计算架构AiDAC。
本文研究了机器学习推断中集成计算内存技术的问题,并通过实验证明了使用CiM架构可以提高能源效率,达到低至INT-8精度0.12倍能源消耗和重复权重交错技术下最高4倍的性能增益,同时提供了关于何种类型CiM适合使用以及何时何地最佳集成于缓存层级进行GEMM加速的见解。
完成下面两步后,将自动完成登录并继续当前操作。