量子位
·
Meta版慢思考来了！田渊栋团队整合快慢思考，能走迷宫推箱子
💡
原文中文，约1800字，阅读约需5分钟。
📝
内容提要
Meta的田渊栋团队开发了Dualformer模型，结合快慢思考，提升性能并降低推理成本。该模型通过训练推理轨迹和最终答案，解决复杂问题。在慢思考模式下，最优解率达97.6%，推理步骤减少45.5%；自动模式下最优率为96.6%，推理步骤减少59.9%。模型基于Searchformer，采用丢弃策略优化推理过程。
🎯
关键要点
- Meta的田渊栋团队开发了Dualformer模型，结合快慢思考，提升性能并降低推理成本。
- Dualformer模型通过训练推理轨迹和最终答案，解决复杂问题，如迷宫和推箱子。
- 在慢思考模式下，Dualformer的最优解率达到97.6%，推理步骤减少45.5%。
- 自动模式下最优率为96.6%，推理步骤减少59.9%。
- Dualformer基于Searchformer模型，采用丢弃策略优化推理过程。
- 模型在路径规划任务中表现良好，能以更高效率找到最优解。
- Dualformer在训练过程中依据定制的丢弃策略丢弃部分结构，学习更简洁有效的搜索和推理过程。
- 模型可配置快速模式、慢速模式或自动模式，根据不同任务需求自适应调整。
- 在迷宫任务中，Dualformer以80%的最优率完成，显著优于Solution-Only模型。
- 在Mistral-7B和Llama3-8B模型上，Dualformer在Aug-MATH数据集上表现提升。
- 研究团队由田渊栋等人组成，成员在生成模型和强化学习等领域有丰富经验。
🏷️
标签
➡️
