本研究提出了一种渐进混合精度解码技术，旨在解决大型语言模型在资源受限设备上的高计算和内存需求问题。该方法通过在不同推理阶段选择性分配精度，提升了计算效率和内存带宽利用率，同时保持输出质量，显著提高了推理速度和效率。