神经网络能否被严谨地解释为符号逻辑？

本文讨论了神经网络能否被严谨地解释为符号逻辑的问题，并提出了两个关键问题：如何定义和证明符号化解释的严谨性，以及在哪些条件下神经网络可以被严谨地解释为符号逻辑。作者认为，传统的深度学习发展路径逐渐走向终点，需要构建一个新的公理和定理体系来解释神经网络的内在逻辑。文章还介绍了稀疏性、无限拟合性和交互的泛化性等性质，并提出通过证明交互概念的稀疏性、无限拟合性和泛化性来解释神经网络的预测逻辑。作者认为这种解释可以重新定义大模型的泛化性、鲁棒性等，并为大模型的幻觉、可靠性、安全性和价值对齐等任务提供新的评估角度。