量子位
·
推理token减少46%！Meta新方法缩短思维链，告别重复推导
💡
原文中文，约2100字，阅读约需5分钟。
📝
内容提要
Meta与多所大学合作提出了一种元认知复用机制，通过回顾推理过程提炼简洁的“行为”，显著减少推理token使用量，最多可减少46%。该方法在数学测试中保持准确率不变，提升了模型的推理效率。
🎯
关键要点
- Meta与多所大学合作提出元认知复用机制，显著减少推理token使用量，最多可减少46%。
- 该机制通过回顾推理过程提炼简洁的“行为”，存储于“行为手册”中，避免重复推导。
- 现有大型语言模型在处理复杂任务时存在推理步骤重复的问题，导致token用量增加和推理延迟。
- 元认知复用机制让模型提取可复用的推理步骤，转化为标准化“行为”，提高推理效率。
- 研究团队在MATH和AIME等数学测试中验证了该机制的有效性，保持准确率不变。
- 行为条件推理（BCI）场景中，使用更少token达到与基线相当或更优的性能。
- 行为引导的自我改进方法让模型对自身推理轨迹进行批判和修正，提升准确率最多10%。
- 行为条件监督微调（BC-SFT）有效将高质量行为融入模型参数，提升模型推理能力。
❓
延伸问答
Meta的新方法如何减少推理token的使用量？
Meta通过元认知复用机制，让模型回顾推理过程，提炼简洁的“行为”，存储于“行为手册”中，从而减少最多46%的推理token使用量。
该机制在数学测试中的表现如何？
该机制在MATH和AIME等数学测试中保持了准确率不变，同时显著减少了推理token的使用。
什么是行为条件推理（BCI）？
行为条件推理（BCI）是一种应用场景，允许模型在使用更少token的情况下，达到与基线相当或更优的推理性能。
元认知复用机制的核心步骤是什么？
核心步骤包括生成解决方案、进行反思评估、提炼可复用行为，并将其转化为标准化的“行为条目”。
行为引导的自我改进方法有什么优势？
该方法允许模型对自身推理轨迹进行批判和修正，最多可将准确率提升10%。
行为条件监督微调（BC-SFT）如何提升模型能力？
BC-SFT通过将高质量行为融入模型参数中，更有效地将不具备推理能力的模型转化为具备推理能力的模型。
➡️
