本文研究了使用随机梯度下降（SGD）训练两层神经网络（NN），证明了NN的第一层权重将收敛于真实模型的主子空间，进一步证明了使用SGD训练的ReLU NNs可以学习单指标目标，样本复杂度与d成线性关系。

本文研究了使用随机梯度下降（SGD）训练两层神经网络（NN），证明了NN的第一层权重将收敛于真实模型的主子空间，进一步证明了使用SGD训练的ReLU NNs可以学习单指标目标。

本文研究了使用SGD训练任意宽度的两层神经网络，证明了第一层权重将收敛于真实模型的k维主子空间，使用SGD训练的ReLU NNs可以通过恢复主方向来学习单指标目标，其样本复杂度与d成线性关系。