该研究提出了一种高效的权重量化方法，减少大型语言模型的内存消耗和推断成本。通过使用预训练模型的权重和自适应的量化粒度，该方法在混合专家模型和密集模型上展示了有效性。研究还实现了高效的GPU矩阵乘法和解量化算法，支持不同类型的激活和权重。在评估中，该方法展示了最小的准确性损失，并实现了高吞吐量。

为了解决大型语言模型的内存需求和推断成本问题，提出了一种高效的仅权重量化方法。通过减少内存消耗和加速推断，采用启发式方法来确保最小质量降低。适用于混合专家模型和密集模型，无需额外微调。通过自适应的量化粒度解决挑战和问题，展示了方法的有效性。实现了高效的GPU矩阵乘法和解量化算法，支持不同激活和权重的乘法。在大规模开源模型上评估，展示了最小的准确性损失和高吞吐量。

本文介绍了一种新颖的权重量化方法，用于训练量化神经网络（QNNs）以避免低精度累加器溢出问题。该方法通过受权重归一化启发的公式，限制模型权重的L1范数，促进非结构化权重稀疏性以避免溢出。实验结果表明，该方法可以训练适用于低精度累加器的QNNs，并在FPGA上部署模型时提高资源效率。