本研究提出了BitStack，一种无训练的权重压缩方案，旨在解决大语言模型在本地设备上的内存限制问题。该方法动态调整模型大小，实现内存使用与性能的平衡，实验结果显示在极端压缩比下仍能超越现有基准。

该研究提出了一种新型权重压缩方案NeuZip，有效解决了神经网络模型规模受限的问题。该方案在训练和推断中实现了内存高效，Llama-3 8B模型的训练内存占用从31GB减少到16GB以下，且无性能损失。