本研究提出了一种新的数学框架，结合预训练语言模型生成器和过程验证器，以解决生成算法中的约束问题。研究表明，验证器能够将复杂问题转化为可处理的问题，并通过回溯方法提升生成的效率、准确性和多样性。

该文综述语言模型多步推理的监督方法：过程监督提升数学问题准确性，主动学习增强其效果；结果监督（OVM）将多步推理转为规划问题，在GSM8K等数据集表现优异；Math-Shepherd等过程验证器及GSM8K数据集推动领域发展，并探讨模型是记忆还是真正推理。