本文研究了在球面上学习未知函数的方差损失问题，分析了神经切向核模型和随机特征模型的表现。通过大偏差理论，探讨了插值器的泛化能力及其与现代学习技术的关系。同时，研究了广义线性回归的渐近表现、局部插值方案的一致性，以及生成Transformer模型的泛化能力，并提出了改进方法。最后，讨论了半监督分类中的新框架和深度学习的广义化现象。

本研究分析了过度参数化神经网络的学习与泛化机制，强调图神经网络中对齐和图移位算子的优化重要性。实验证明，采用交叉协方差的图神经网络在多变量时间序列预测中表现优于传统方法。同时，研究探讨了神经切向核在无限宽度下的行为及其与训练过程的关系。

本文研究了深度ReLU网络中神经切向核（NTK）的特征值分布及其对网络训练的影响，提出了误差上限和优化算法，探讨了不同宽度下的学习动态及鲁棒性，强调了NTK在实际应用中的重要变化。

该文综述随机矩阵谱理论在神经网络中的应用，重点研究共轭核与神经切向核的特征值分布，证明在随机初始化、近似正交输入及宽度线性增长下，核谱收敛到确定性极限，并揭示核谱聚类、泛化边界及训练动力学等性质。

该文综述残差网络研究，比较ResNets与PlnNets性能，指出其泛化优势与噪音容错相关；证明残差连接不增加假设复杂性并给出泛化界；分析深层极限收敛性、与RNN及视觉皮层的关系、跳转连接的作用，并扩展SNN深度，从神经切向核角度解释泛化优势。

该文综述物理信息神经网络（PINNs）的多项进展：利用神经切向核分析训练动态，提出径向基函数替代傅里叶特征映射；结合图嵌入、几何变换与Gabor基函数提升多尺度及复杂几何问题求解效率；并探讨其与高斯过程的等价性及在FPGA部署的可行性。

神经切向核（NTK）研究综述：修正误差上限与缩放问题；提出截断埃尔米特函数近似NNGP和NTK，在CIFAR-10上加速106倍；RNTK性能更优；NTK性质取决于深度宽度比，分有序、混沌和混沌边缘三阶段；给出NTK矩阵最小特征值紧界；NTK可解释大语言模型组件；无限宽度下NTK训练中恒定；有限宽度NTK动态可用微分方程组描述；建立浅层NTK逼近率；实证发现NTK特征向量随优化向目标函数演化。

该文综述神经切向核（NTK）在物理约束神经网络中的研究：NTK可描述无限宽网络梯度下降动态，揭示高斯激活优势，并用于自适应校准损失收敛率、缓解谱偏差，提升PINN求解偏微分方程的多尺度能力。

深度平衡模型（DEQ）研究综述：证明其无限深度极限下神经切向核具有确定性且可高效求解；用于序列建模时内存仅需常数级；宽度趋于无穷时收敛为高斯过程；用Broyden法估计Jacobian可加速训练；正则化方案提升收敛与性能；TorchDEQ库提升多领域表现；LyaDEQ增强对抗鲁棒性；MDEQ适用于大规模图像分类与语义分割；monDEQ保证唯一平衡点且优于神经ODE。

该文介绍了一种用于递归神经网络（RNN）的固定点分析方法，可以用于RNN记忆状态演进的收敛估计。通过研究联合随机代数方程的无穷维ODE的解，证明了简化权重矩阵的RNN收敛到一个无穷维ODE的解与固定点耦合。这些数学方法导致了RNN在数据序列上训练时的神经切向核（NTK）极限。

该研究发现神经网络的演化可以用神经切向核表示，网络函数在训练期间遵循线性微分方程。研究还对神经切向核进行了数值研究，并将其与无限宽度的极限进行了比较。

开发数学方法来表征递归神经网络（RNN）的渐近特性，研究了简化权重矩阵的RNN收敛到无穷维ODE的解与固定点耦合，开发了固定点分析方法用于RNN记忆状态演进，给出了收敛估计。这些方法导致了RNN在数据序列上训练时的神经切向核（NTK）极限。