神经常微分方程的稳定感知初始化
原文中文,约300字,阅读约需1分钟。发表于: 。本文研究了神经常微分方程(Neural Ordinary Differential Equations)的训练,并探讨了数值积分技术、稳定区域、步长和初始化技术之间的相互作用。文章展示了积分技术的选择如何隐式地对学习模型进行正则化,并且求解器的相应稳定区域如何影响训练和预测性能。在此分析的基础上,引入了一种基于稳定性的参数初始化技术。该初始化方法在多个学习基准和工业应用中显示出效果。
本文研究了神经常微分方程(Neural Ordinary Differential Equations)的训练,探讨了数值积分技术、稳定区域、步长和初始化技术之间的相互作用。文章展示了积分技术的选择如何隐式地对学习模型进行正则化,并且求解器的相应稳定区域如何影响训练和预测性能。在此分析的基础上,引入了一种基于稳定性的参数初始化技术。该初始化方法在多个学习基准和工业应用中显示出效果。