美团技术团队
·
R-HORIZON：探索长程推理边界，复旦NLP&美团LongCat联合提出LRMs能力评测新框架
内容提要
大型推理模型（LRMs）在长链推理能力上面临挑战，现有评测体系无法有效评估其复杂任务表现。复旦大学与美团推出的R-HORIZON框架通过问题组合方法提升了模型的多步推理能力。评测显示，主流模型在长链推理中性能普遍下降，存在推理长度、反思机制和预算分配等瓶颈。通过强化学习训练，R-HORIZON显著提升了模型推理性能，标志着研究范式的转变。
关键要点
-
大型推理模型（LRMs）在长链推理能力上面临挑战，现有评测体系无法有效评估其复杂任务表现。
-
复旦大学与美团推出的R-HORIZON框架通过问题组合方法提升了模型的多步推理能力。
-
现有基准测试主要关注独立问题，无法满足真实应用场景的需求。
-
R-HORIZON提出的问题组合方法将孤立任务转化为复杂的多步骤推理链。
-
R-HORIZON Benchmark涵盖6个代表性数据集，评测发现主流模型在长链推理中性能普遍下降。
-
当前LRMs存在有效推理长度受限、反思机制高度局部化和思考预算分配失衡等三大瓶颈。
-
通过强化学习训练，R-HORIZON显著提升了模型推理性能，标志着研究范式的转变。
-
R-HORIZON训练带来了推理机制的深层改变，包括更高效的推理长度和更合理的预算分配。
延伸解读
长链推理的实际应用
长链推理能力在实际应用中至关重要，例如软件开发和智能助手任务。这些场景要求模型不仅能解决单一问题，还需在多个相关任务间保持一致性。因此，R-HORIZON框架的提出，正是为了填补现有评测体系的空白，帮助模型更好地适应复杂的真实世界需求。
评测结果的警示
R-HORIZON Benchmark的评测结果显示，主流大型推理模型在长链推理中普遍性能下降，尤其在问题数量增加时。这一现象提醒研究者和开发者，现有模型在处理复杂任务时的能力仍有待提升，需关注模型的推理机制和资源分配策略。
强化学习的潜力
通过强化学习训练，R-HORIZON显著提升了模型的推理性能。这表明，利用长链数据进行训练不仅能改善多步推理能力，还能增强单一问题的表现。这一发现为未来的模型训练提供了新的思路，强调了数据质量和训练方法的重要性。
延伸问答
R-HORIZON框架的主要创新是什么？
R-HORIZON框架提出了问题组合方法，将孤立任务转化为复杂的多步骤推理链。
当前大型推理模型在长链推理中面临哪些主要瓶颈？
主要瓶颈包括有效推理长度受限、反思机制高度局部化和思考预算分配失衡。
R-HORIZON如何提升模型的推理性能？
通过强化学习训练，R-HORIZON显著提升了模型在长链推理任务中的表现。
R-HORIZON Benchmark包含哪些数据集？
R-HORIZON Benchmark涵盖6个代表性数据集，用于评测LRMs的多步推理能力。
现有评测体系为何无法有效评估大型推理模型的表现？
现有评测体系主要关注独立问题，无法满足真实应用场景中对长链推理的需求。
R-HORIZON的研究范式转变意味着什么？
R-HORIZON标志着研究范式的转变，从关注模型能解决什么问题转向关注模型能走多远。
