本文介绍了一种高效部署深度神经网络的梯度后训练量化方法(GPTQ),提出了设计更高效、可扩展的GPTQ方法的准则和基于重要性的混合精度技术,共同促进了GPTQ方法和网络的性能改进。
完成下面两步后,将自动完成登录并继续当前操作。