中科院半导体所论文再登 TNNLS 顶刊,贡献探索数学表达式的新视角

💡 原文中文,约4200字,阅读约需10分钟。
📝

内容提要

中国科学院半导体研究所的研究人员提出了DeepSymNet符号网络,用于表示符号表达式。DeepSymNet使用更短的标签,减少搜索空间,提高算法鲁棒性。实验结果显示,DeepSymNet在符号表达式误差、复杂度和运行速度方面优于其他算法。这项研究为人工智能解决数学问题提供了新思路。

🔎

延伸解读

符号回归的挑战与DeepSymNet的应对

符号回归旨在从数据中发现数学表达式,但寻找最佳组合是NP-hard问题,组合空间随表达式长度指数增长,且系数非线性求解与结构优化相互干扰,导致耗时。DeepSymNet将表达式结构求解视为分类问题,通过监督学习减少搜索空间,为这一难题提供了新思路。

DeepSymNet的设计特点与优势

DeepSymNet使用隐藏层节点表示运算符,如+、-、×、÷、sin等,其中id运算符与上一层节点一一对应,确保信息传递。输入层有特殊节点const表示常量系数,只有连接到const的边才有权重。这种设计使网络能表示任何表达式,且标签更短,减少了预测搜索空间,提升了鲁棒性。

实验验证与性能表现

在人工生成和公共数据集上的测试表明,DeepSymNet在符号表达式误差、复杂度和运行速度上均优于对比算法。通过样本平衡和合并等效标签,模型鲁棒性增强,求解最优解的准确率提高。与基于搜索的方法如EQL、GP、DSR相比,DeepSymNet的平均误差最小,复杂度更接近真实表达式。

局限性与未来方向

论文提到DeepSymNet仍有一些局限性,例如随着表达式隐藏层数增加,预测准确率迅速下降,尤其是算子选择的预测精度。未来研究可进一步优化算子选择,并探索在实际问题中的应用。这项研究为人工智能解决数学问题提供了新视角,有望推动符号回归在物理、天文等领域的应用。

❓

Q&A

什么是符号回归?它有哪些应用?

符号回归是一种从数据中寻找精确数学表达式的方法,用于揭示观测数据的潜在数学表达式,具有解释和概括能力,能够解释变量之间的因果机制或预测复杂系统的发展趋势,广泛应用于物理学、天文学等领域。

符号回归研究的主要难点是什么?

符号回归的难点在于获得最佳组合是一个NP-hard问题,组合空间随着符号表达式的长度呈指数增长;此外,系数的非线性求解过程和元素组合优化过程相互干扰,因此确定精确表达式非常耗时。

DeepSymNet是什么?它的整体框架是怎样的?

DeepSymNet是中国科学院半导体研究所提出的一种符号网络,用于表示符号表达式。其整体框架包括输入层、隐藏层和输出层。隐藏层节点由运算符号组成,包括+、-、×、÷、sin、cos、exp、log、id等,其中id运算符与上一层节点一一对应,其他运算符完全连接到上一层。输入层有一个特殊节点「const」用于表示常量系数。

DeepSymNet相比其他符号回归方法有哪些优势?

DeepSymNet使用更短的标签,减少了预测的搜索空间,同时提升了算法鲁棒性。实验结果显示,DeepSymNet在符号表达式误差、复杂度和运行速度方面优于其他算法,如基于监督学习的方法(SymbolicGPT、NeSymReS、E2E)和基于搜索的方法(EQL、GP、DSR)。

DeepSymNet如何提高算法的鲁棒性?

研究团队通过样本平衡和合并等效标签来增强算法鲁棒性。消融实验表明,增加样本平衡和合并等效标签后,模型求解最优解的准确率得到了提高,从而增强了算法的鲁棒性。

DeepSymNet在哪些数据集上进行了测试?结果如何?

DeepSymNet在人工生成的数据集和6个公共数据集(Koza、Korns、Keijzer、Vlad、ODE和AIFeynman)上进行了测试。结果显示,该算法在符号表达式误差、复杂度和运行速度方面均优于对比算法,证实了其有效性。

🏷️

标签

➡️

继续阅读