本研究探讨了浅层神经网络中隐性偏差受非线性激活函数影响的情况。结果表明，不同激活函数显著影响隐性偏差，尤其在自适应范畴内，促进了超平面聚类的形成。这为设计更高效的神经网络模型提供了理论依据。

本文研究了深度神经网络中的秩与结构缺陷，分析了隐性偏差和权重矩阵的张量秩对训练的影响。研究表明，稳定秩初始化可以加速收敛，并提出了一种低阶张量秩的隐式正则化方法，从而提升卷积神经网络的性能。

本文研究了随机神经网络的普适逼近性质，并与确定性神经网络进行了比较。提出了一种通用神经功能（UNF）模型，优化了小型图片分类器和语言模型。同时探讨了神经网络训练中的隐性偏差及权重收敛现象，提出了神经功能网络（NFN）设计框架，并展示了其在多层和卷积神经网络任务中的有效性。