我们提出了一种残差学习框架，以降低深层神经网络的训练难度。通过学习残差函数，残差网络更易于优化，且随着深度增加，精度提升。在ImageNet上测试的152层残差网络的复杂度低于VGG。

本文介绍了一种利用数据合成技术生成大规模注释数据集的方法，以提升物体检测模型的性能和泛化能力。研究探讨了合成数据在深层神经网络训练中的应用，展示了新数据集UrbanSyn的优势，并提出了一种动态城市街景生成方法，能够根据用户需求生成高质量的城市视图。

本文介绍了基于深层神经网络的元特征提取器Dataset2Vec和新型标签少样本学习方法FLAT，旨在优化异构数据集的学习与泛化能力。FLAT通过低维嵌入促进知识传递，实验证明其在标签数据集上的显著改进。此外，提出了图表征学习方法和自我监督方法SwitchTab，以提升表格数据的建模性能。

本文从贝叶斯角度出发，研究线性模型的训练速度与边缘似然之间的联系。发现训练速度可估计边缘似然，并预测线性模型组合中模型的相对权重。实验证明这种直觉在深层神经网络中也成立，为解释随机梯度下降训练的神经网络偏向良好泛化函数提供新方向。