本文研究了深度学习中预训练对模型鲁棒性和不确定性预测的影响，提出了对抗性预训练方法和轻量级调节方法（NMTune），以减轻标签噪声对模型性能的影响。研究表明，预训练中的噪声虽然能提升域内性能，但会损害域外性能，强调了优化模型和理解噪声特性的必要性。

本文提出了一种新方法用于回归任务中的不确定性预测校准，结合直方图聚类和缩放校准，验证了其在COCO和KITTI数据集上的有效性。同时，研究探讨了风险评估和模型不确定性，强调在高风险应用中对机器学习模型的可靠性和不确定性评估的重要性。

本文提出了一种改进的随机梯度Langevin动力学（SGLD）算法，采用方差约减策略以加速非凸学习。研究表明，该算法在优化和不确定性预测方面表现优异，尤其在大规模不确定性估计任务中具有潜力。引入的交互轮廓随机梯度Langevin动力学（ICSGLD）采样器在计算效率上优于单链方法。

本文综述高斯过程在多智能体系统中的应用：采用关联感知协同算法预测不确定性，避免后验方差计算并确保跟踪误差概率界限；引入变分推断、稀疏模型和混合回归等方法提升可扩展性与控制性能，并在自主赛车、电机优化等场景中验证。

本文综述连续深度图神经网络与神经常微分方程的结合进展，涵盖图神经常微分方程、符号图GDE、TisODE鲁棒性方法、GrADE偏微分方程框架、GN-CDE动态图建模、分数阶微分方程网络、图神经随机微分方程、连续深度模型、MTGODE多元时间序列预测及GAINS分析框架等，并验证其在动态建模、不确定性预测与效率方面的优势。