评估后训练语言模型对虚假相关性的稳健性

本研究解决了后训练语言模型中虚假相关性对模型性能的影响问题。通过系统评估三种后训练算法，探讨了不同条件下的模型稳健性，发现偏好优化方法在数学推理任务中表现出相对稳健，而监督微调在复杂任务中表现更强。这一发现强调了后训练策略选择的重要性，需根据目标任务及虚假相关性的性质来决定。