本研究提出了一种新的多臂老虎机算法CYANEA,旨在解决大型语言模型在程序合成中的表现不均衡问题。该算法优化了符号求解器和提示选择,能够提高37.2%的查询解决率。
该文综述大语言模型结合符号求解器解决优化问题:OptiMUS可自动建模求解MILP,解题量比基础提示多67%;OptiChat用GPT-4诊断不可行模型;Logic-LM、StrategyLLM等提升逻辑与数学推理;神经符号平台在约束优化上优于纯LLM。
多项研究评估大语言模型的逻辑与数学推理能力,发现其表现不佳:在归纳逻辑编程基准上逊于小型神经程序系统;扫雷任务中难以整合多步推理;JEEBench数理化难题中GPT-4正确率不足40%。为此,研究者提出Logic-LM、LMM-LR、REBEL、SYRELM等框架,结合符号求解器、逻辑训练与强化学习提升推理能力,并强调该领域仍需深入探索。
该文综述大语言模型与符号求解器结合的研究:将自然语言问题逐步规范化为变量和方程后交由符号求解器求解,在代数问题上较PAL提升20%;Symbol-LLM通过注入符号知识平衡符号与自然语言能力;SYRELM用强化学习生成形式化表达式;Logic-LM先转符号形式再确定性求解并自我精炼,显著提升逻辑推理;此外还有生成可验证方案、自提示提高符号准确性、生成程序交由运行时执行、元推理类比学习及神经符号转换逻辑谜题等方法。
完成下面两步后,将自动完成登录并继续当前操作。