本文提出了一种优化神经网络形式的方法，用于近似求解常微分方程，并确切满足边界条件和初始条件。数值测试结果显示，优化的神经网络形式能够精确满足条件，并提供具有优越插值能力和可控整体精度的闭式解。

本文研究了使用n个神经元的神经网络逼近具有一层隐藏神经元和k个神经元的神经网络的问题，提供了对传统激活函数的非平凡临界点的闭式解，并发现欠参数化网络的最优解具有普遍结构。