BinaryDM: 混合扩散模型的准确二值化
内容提要
该研究提出了一种新颖的双二值化方法（DB-LLM）和高效的优化策略，以提高大型语言模型的计算效率和准确性。通过量化感知的低秩适配器和全局、局部策略，显著优化了低位扩散模型的性能，并介绍了加速去噪扩散生成模型的技术，提升了图像生成的效率和质量。
延伸解读
量化技术演进：从LLM到扩散模型
文章梳理了二值化与低位量化在大型语言模型和扩散模型中的多项进展。DB-LLM通过双二值化和偏差感知蒸馏提升超低位量化精度；BiLLM实现1位后训练量化，能在单GPU上0.5小时完成70亿参数模型二值化；EfficientDM利用量化感知低秩适配器达到QAT级别性能。这些工作共同推动高效推理与生成。
扩散模型量化的关键挑战与对策
扩散模型量化面临激活分布复杂和去噪步骤敏感等挑战。文章提到通过优化活化分布和关键量化层，可在不同位宽下实现高分辨率图像生成；利用信噪比识别敏感部分，结合全局与局部策略压缩潜在扩散模型；还有工作将全精度去噪网络量化为8位而无需重训练，并统一处理量化噪声与扩散扰动噪声。
二值化神经网络的通用方法
DIR-Net通过信息最大化二值化、分布敏感二段估计器和表示对齐二值化感知蒸馏三项技术，在ResNet、VGG、EfficientNet、DARTS和MobileNet等紧凑架构上表现优异，有助于资源受限设备节省存储并加速。此外，基于一位权重和激活的Transformer在机器翻译任务上达到与浮点模型相当的质量，同时模型大小仅为后者的十六分之一。
Q&A
什么是双二值化方法（DB-LLM）？
双二值化方法（DB-LLM）是一种用于大型语言模型的超低位量化技术，旨在提高计算效率和准确性。
如何通过偏差感知蒸馏（DAD）提高量化模型的准确性？
偏差感知蒸馏（DAD）通过减少预测失真，显著提升了超低位量化模型的准确性。
BiLLM的主要特点是什么？
BiLLM是一种创新的1位后训练量化方案，能够在单个GPU上快速实现大型语言模型的二值化，且具有高准确度和时间效率。
EfficientDM优化方法的优势是什么？
EfficientDM是一种数据自由且参数高效的优化方法，显著优化了低位扩散模型的性能，提升了时间和数据效率。
如何加速去噪扩散生成模型的生成过程？
通过对去噪网络进行压缩，将完全精度的去噪扩散模型量化为8位模型，从而加速生成过程。
DIR-Net方法的主要贡献是什么？
DIR-Net通过改进内部传播和引入外部表示，保留了神经网络的信息，提升了二值化的效果。
