分享 Qwen 3.8 Flash Next 模型调优经验

用户反馈 Qwen 3.8 Flash Next 未审查版长上下文出现多语言乱码。排查发现，BF16 舍入误差随生成累积，FP4/FP8 lm_head 扰动概率排序，导致语言混杂。修复方法：GDN 循环状态恢复 FP32，lm_head 使用原生 BF16，主体仍为 NVFP4。修复后连续生成约 1.1 万 tokens 无漂移，但显存增加、速度下降。建议日常使用官方原版量化，破甲版仅供研究。