神经网络通过梯度特征学习的可证实保证

该文提出了一个在切线特征空间中理解线性模型的框架，通过特征的线性变换得到一个具有双线性插值约束的联合优化问题，证明了该问题等价于一个线性约束优化问题，具有结构化正则化，鼓励近似低秩解。作者通过实验证明，在 MNIST 和 CIFAR-10 上，切线特征分类的自适应特征实现的样本复杂性比固定切线特征模型低一个数量级。