OpenVINO 2023引入了一个名为NNCF（神经网络压缩框架）的新支持工具，通过压缩和量化OpenVINO IR格式模型，提高了模型在OpenVINO框架上的部署性能。NNCF包可以使用pip安装。它支持用于后训练压缩的权重压缩和量化算法，以及用于训练压缩的感知量化、混合精度量化、二进制、稀疏、滤波剪枝和运动剪枝算法。文章还提供了使用NNCF实现YOLOv8模型压缩和量化的代码示例。还提到了使用OpenVINO C++ SDK测试量化的YOLOv8模型的结果。