本研究提出了一种后训练量化框架，通过细粒度分组和EM量化方案，将大语言模型的权重量化为1位，显著降低量化误差并提升性能。

Binary Weight and Activation Implementation for Large Language Models Using Post-Training Quantization
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证