AdaBM：基于即时自适应位映射的图像超分辨率
内容提要
本文介绍了多种优化图像超分辨率（SR）网络的方法，包括内容感知比特映射、动态压缩方法CADyQ和全量化框架FQSR。这些方法通过自适应位宽和量化级别分配，提高了网络的效率与精度，解决了量化带来的计算复杂性和准确性损失问题。实验结果表明，这些新技术在降低计算成本的同时，保持了与全精度方法相似的性能。
延伸解读
量化在超分辨率中的特殊挑战
文章指出，与图像分类等高层任务相比，低位量化会导致超分辨率网络严重的精度损失。这是因为超分辨率需要重建像素级细节，对特征分布的微小偏移极为敏感。因此，直接套用分类任务的量化策略往往效果不佳，需要专门针对SR网络设计量化感知训练或自适应位宽分配方法。
自适应位宽分配的技术路线
文章汇总了多种自适应位宽方法，如内容感知比特映射、CADyQ、S-CL和QBitOpt。它们共同思路是让不同层或不同输入区域使用不同的比特宽度，以在计算成本和精度之间取得平衡。其中CADyQ引入量化敏感性评估，QBitOpt将位宽分配转化为约束优化问题，体现了从启发式到优化驱动的演进。
分布不匹配问题的解决思路
ODM框架专门针对SR网络量化中的分布不匹配问题，通过正则化特征方差并引入分布偏移来减少训练与量化推理之间的差异。文章强调，减小分布不匹配比单纯增加动态自适应更有效，且计算开销更低。这提示读者，量化误差的根源可能在于特征分布偏移，而非仅仅是位宽不足。
超低精度量化的性能保持策略
在2位或3位等超低精度下，SR模型性能下降明显。DDTB方法通过动态调整激活的上下界来适应不同样本的激活范围变化，从而缓解性能损失。这表明，对于超低精度场景，激活值的动态范围处理比权重量化更为关键，动态门控等运行时自适应机制有助于保持重建质量。
Q&A
什么是内容感知比特映射，它如何提高超分辨率网络的效率？
内容感知比特映射是一种通过训练学习每层的比特选择器的方法，旨在构建适用于超分辨率网络的边缘到比特查找表，从而找到更好的比特配置，提高网络效率。
CADyQ方法是如何解决量化带来的计算复杂性问题的？
CADyQ方法通过自适应位宽和量化级别分配，结合可训练比特选择器模块，引入量化敏感性评估，从而减少精度损失并优化计算复杂性。
全量化图像超分辨率框架FQSR的优势是什么？
FQSR框架能够同时优化效率和精度，实验表明其性能与全精度方法相当，但计算成本更低。
S-CL技术在神经网络自适应配置中有什么创新？
S-CL技术通过使权重和激活的位宽自适应，探索了多种适应方法，实现了高精度与高效率的平衡。
量化感知训练框架ODM如何解决分布不匹配问题？
ODM框架通过在训练过程中正则化特征的方差，减少分布不匹配，同时引入分布偏移以进一步减小问题。
动态双可训练界（DDTB）方法的主要功能是什么？
DDTB方法通过动态调整激活范围，解决超低精度SR模型在量化时的性能下降问题。
