后训练量化（PTQ）是一种高效的模型压缩技术，使用小样本集对预训练模型进行量化。IGQ-ViT是一种实例感知分组量化技术，将激活图通道分割为多个组，以使每组内的激活具有相似统计特性。该方法在位运算约束下取得了良好效果，并在图像分类、目标检测和实例分割等领域进行了实验证明。

本文介绍了一种基于梯度的后训练量化方法（GPTQ），用于深度神经网络的高效部署。该方法在选择权重、特征增强、校准集等方面具有鲁棒性，并提出了设计更高效、可扩展的GPTQ方法的准则。同时，还提出了一种基于重要性的混合精度技术，共同促进了GPTQ方法和网络的性能改进。

本文介绍了一种名为norm tweaking的技术，可作为当前PTQ方法的插件使用，以实现高精度且成本效益的模型压缩。通过更新归一化层的权重，该方法在权重量化和权重与激活联合量化方面取得了显著的改进，在2位量化情况下甚至达到与浮点数模型相同的精度水平。该方法简单有效，适用于实际应用。