RISC-V 内核上的混合精度神经网络:用于多泵软 SIMD 操作的 ISA 扩展
📝
内容提要
通过引入 ISA 扩展和硬件设计来优化混合精度硬件的 RISC-V CPU 体系结构,我们的研究工作首次提出了一种硬件 - 软件共同设计框架,以实现混合精度量化和推理的协同,并验证通过广泛的实验评估表明,我们的框架可以在准确率损失不超过 1% 的情况下,平均降低约 15 倍的能耗,并超越了 ISA 无关的 RISC-V 核心的最新技术水平。
➡️