通过有符号梯度下降优化权重四舍五入方法对 LLM 的量化

该文介绍了一种高效的仅权重量化方法，以减少大型语言模型的内存消耗和推断成本。该方法适用于混合专家模型和密集模型，并且无需额外的微调。通过自适应的量化粒度进行解决，展示了该方法的有效性。在评估中，该方法展示了最小的准确性损失，并在相同数量的 GPU 上实现了高达 3.65 倍的吞吐量。