NITRO-D: 深度卷积神经网络的原生整数训练

BriefGPT - AI 论文速递 · 2024-07-16T00:00:00Z

本文介绍了卷积神经网络量化技术，通过逐通道和逐层量化权重和激活，降低模型大小并提高分类准确率。作者提出了一种使用TensorFlow和TensorFlowLite进行卷积网络量化的工具，并回顾了量化训练的最佳实践。作者建议在硬件加速和内核优化中使用逐通道量化的权重和逐层量化的激活，并提议未来处理器和硬件加速器支持多种精度。