符号人工智能：一种将生成模型和求解器相结合的基于逻辑的方法的框架
内容提要
神经符号AI综述探讨图结构推理方法分类，包括逻辑嵌入、约束嵌入和规则学习。Logic-LM结合大语言模型与符号求解提升逻辑推理，VAI框架融入人类价值观，LTN支持可微分一阶逻辑学习推理。研究指出大语言模型推理不足，需结合知识图谱等快速逻辑，实现可信可解释AI。
延伸解读
神经符号推理的图结构方法分类
文章提出了一种新的分类法，用于比较在图结构上执行神经符号推理任务的方法，包括基于逻辑推理的嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。这一分类有助于研究者理解不同方法在逻辑嵌入和约束满足方面的差异，并为选择合适的方法提供参考。
Logic-LM：结合LLM与符号求解提升逻辑推理
Logic-LM框架通过将自然语言问题转化为符号形式，再进行确定性符号求解，并引入自我精炼阶段修正符号形式。在ProofWriter、PrOntoQA、FOLIO和LogicalDeduction四个逻辑推理数据集上，该方法相比仅使用大型语言模型显著提高了逻辑推理性能，展示了神经符号结合在逻辑推理任务上的优势。
VAI框架：融入人类价值观的神经符号计算
Value-Inspired AI（VAI）框架基于Khaneman的系统一/二框架扩展，旨在使机器智能在人类社会中共享人类价值观。通过显式表示共享价值观，VAI系统更易于理解和解释，从而促进基于价值的决策，尤其适用于医疗保健和自动驾驶等高风险场景。
LTN：可微分一阶逻辑的学习与推理
Logic Tensor Networks（LTN）是一种神经符号形式和计算模型，支持通过Real Logic可微分一阶逻辑表示语言进行学习和推理。LTN提供了一种统一语言来规范和计算多个人工智能任务，为神经符号推理提供了可微分的逻辑基础。
Q&A
神经符号AI是什么？它为什么被提出？
神经符号人工智能（NSAI）是一种将神经、符号和概率方法融合在一起的人工智能范式。它被提出是因为深度神经网络虽然推动了人工智能的显著进步，但存在不可持续的计算轨迹、有限的鲁棒性和缺乏解释性等问题。NSAI旨在提高可解释性、鲁棒性和可信度，并能够从较少的数据中进行学习。
Logic-LM框架是如何工作的？它在逻辑推理任务上表现如何？
Logic-LM是一个将大型语言模型与符号推理相结合的框架。它首先使用大型语言模型将自然语言问题转化为符号形式，然后进行确定性符号求解，并通过自我精炼阶段修正符号形式。在ProofWriter、PrOntoQA、FOLIO和LogicalDeduction四个逻辑推理数据集上的结果表明，与仅使用大型语言模型相比，该方法可以显著提高逻辑推理的性能。
什么是Value-Inspired AI（VAI）框架？它有什么特点？
Value-Inspired AI（VAI）是一个神经符号计算框架，旨在实现机器智能在人类社会中共享人类价值观的能力。它基于Khaneman的系统一/二框架的重要扩展。通过利用显式表示的共享价值观，VAI系统能够更易于理解和解释，从而促进基于价值的决策制定，以应对高风险场景（如医疗保健和自动驾驶等）。
Logic Tensor Networks（LTN）是什么？它支持哪些功能？
Logic Tensor Networks（LTN）是一种神经符号形式和计算模型，支持通过引入一种称为Real Logic的可微分一阶逻辑表示语言进行学习和推理。LTN提供了一种统一语言来规范和计算多个人工智能任务。
大型语言模型在推理方面存在哪些不足？如何解决？
大型语言模型（LLM）被训练成可以生成看似正确但不一定准确的输出，然而它们在推理方面存在不足，导致LLM的可靠性不完全。为了解决这个问题，研究提出了一种替代AI方法，通过使用明确的知识和经验规则对AI进行教育，从而使推理引擎能够自动推导出所有知识的逻辑蕴涵关系，得到可信且可解释的结果。此外，还提出了将LLM方法与更正式的方法相结合的思路，以实现可信的综合型AI。
神经符号AI领域有哪些主要的推理方法分类？
神经符号AI领域在图结构上执行推理任务的方法被分为三类：基于逻辑推理嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。
