小型企业在培训和运行人工智能时面临高成本挑战，量化是解决方案之一。量化通过降低模型参数精度来减少内存占用。静态量化在训练期间将权重和激活量化为较低位精度，动态量化在推理过程中动态量化激活。后训练量化将量化纳入训练过程中，可以直接应用于预训练模型。量化可以减少模型大小、内存需求和推理时间，但可能会降低模型精度。量化有助于提高大型语言模型的可访问性和可持续性计算实践。