本文介绍了Intel针对卷积神经网络（CNN）的int8量化方案，旨在优化计算性能。该方案通过将浮点数转换为int8，提升卷积操作速度。主要方法包括直接转换、基于数据校准和训练微调。TensorRT采用线性量化，简化计算过程并使用CUDA加速。量化的关键在于确定缩放因子，以减少信息损失，确保量化前后的数据分布尽可能接近。