深思专家的混合（MoTE）：思维链和专家混合在自我对齐中的协同作用
内容提要
本文探讨了大型语言模型（LLMs）通过思维链提示（CoT）提升推理能力的方法，包括微调策略、跨语言推理和多模态框架。研究表明，自我审查、步骤级辩论和视觉推理等新技术能显著提高模型在复杂任务中的准确性和性能。
延伸解读
MCMC-EM微调：提升思维链推理的新策略
文章提出一种基于MCMC-EM的微调策略，通过最大化生成正确答案的边际对数似然来优化模型，而非仅依赖单一解释。该方法采用控制变量技术降低梯度估计方差，在GSM8K和BIG-Bench Hard任务上，其准确性通常优于STaR或带/不带思维链提示的微调方法。这为思维链训练提供了更稳健的优化方向。
多模态与视觉推理：CoT向感知任务扩展
多模态-CoT框架结合语言与视觉信息生成理由，在ScienceQA基准上达到91.68%准确率，比GPT-3.5高16个百分点，甚至超过人类表现。Visual CoT则通过可解释性认知链条处理复杂视觉输入，并引入包含373k问答对的数据集，突出关键区域，为评估多模态模型在局部识别场景中的性能提供了新基准。
步骤级辩论与代码生成：减少累积误差
针对推理步骤中的累积误差，步骤级辩论方法让多个辩论者讨论每个推理步骤，从而得出正确答案。实验表明，基于CoTGenius微调的ChainLM模型在复杂推理任务上表现更熟练。类似地，Code Chain-of-Thought通过辅助LLM生成代码和改进输出，显著提高了代码生成的准确性，展示了CoT在专业领域的应用潜力。
跨语言与多粒度推理：CoT的泛化能力
跨语言多步推理方法通过自洽的跨语言提示机制，在不同语言中实现多步推理路径，实验评估中优于现有提示方法。粗细链式思维（CoF-CoT）则将自然语言理解任务分解为多个推理步骤，利用抽象意义表示（AMR）作为中间步骤，在零样本和少样本多领域设置下提升模型对多粒度任务的理解能力。
Q&A
思维链提示如何提高大型语言模型的推理能力？
思维链提示通过逐步解决问题的方式，增强了模型的推理能力，使其在复杂任务中更准确。
什么是Verify-and-Edit框架，它的作用是什么？
Verify-and-Edit框架利用外部知识编辑推理链，以提高大型语言模型在开放型问题回答任务中的准确性。
多模态-CoT框架是如何结合语言与视觉信息的？
多模态-CoT框架通过结合语言和视觉信息，提升了答案推断的准确度，尤其在复杂视觉输入的处理上表现优异。
步骤级辩论方法如何减少推理中的累积误差？
步骤级辩论方法通过多个辩论者讨论每个推理步骤，从而减少推理过程中的累积误差，提高答案的准确性。
Code Chain-of-Thought（CodeCoT）策略的主要优势是什么？
CodeCoT策略通过辅助生成代码，显著提高了代码生成的准确性，改善了大型语言模型的输出。
跨语言多步推理方法的主要贡献是什么？
跨语言多步推理方法实现了在不同语言中解决复杂推理任务的能力，表现优于现有方法。
