大型语言模型的迭代深度抽样

本研究解决了训练大型语言模型时自我评估和自我修正的数据质量问题，提升了复杂问题解决的效果。通过提出一种新的迭代深度抽样算法框架，手动触发模型的自我修正机制，显著提高了在困难推理任务上的成功率。该方法在Math500和AIME基准测试中的实验结果表明，有望为下一代大型语言模型的训练带来显著改进。