SoLA:基于求解器层适应的 LLM 在逻辑推理中的应用
原文中文,约400字,阅读约需1分钟。发表于: 。对大型语言模型(LLMs)在逻辑推理中所面临的挑战,以及利用工具学习改变问题求解的过程进行了探讨。本文提出了一种新颖的解算器层自适应(SoLA)方法,通过将解算器作为 LLMs 的新层,以不同的方式引导解决方案朝着可满足性发展。通过利用 MaxSAT 作为桥梁,定义正向和反向转移梯度,使最终模型能够收敛到满足的解决方案或证明不可满足性。通过验证 SoLA...
本文讨论了大型语言模型在逻辑推理中的挑战,并提出了一种新的解算器层自适应方法。该方法通过将解算器作为语言模型的新层,利用MaxSAT桥梁定义转移梯度,使模型能够收敛到满足的解决方案。实验证明该方法在大规模问题求解中相对于现有的符号求解器和工具学习方法具有持续优势。