张丽及其团队在微软亚洲研究院引入“System2”概念,提升大模型的深度推理能力。通过蒙特卡洛搜索算法,7B模型的数学推理能力接近OpenAI的o1,激发了学术界的广泛讨论。她指出智商和推理能力是大模型应用的关键,未来将继续优化奖励模型并扩展任务领域。
本文综述检索增强规划框架,以应对人类行为对决策的挑战,适用于文本和多模态任务。主要方法包括:RR后置处理法,利用CoT推理检索外部知识,提升常识、时间与表格推理;IRCoT交替进行检索与CoT,在多跳问答数据集上显著改进;RAP采用蒙特卡洛搜索进行计划生成与复杂推理,效率和准确率超过CoT;RPT联合训练检索增强模型,改善检索质量与困惑度。
完成下面两步后,将自动完成登录并继续当前操作。