本研究探讨了激励不足条件下的参数学习问题，提出了一种在线算法，能够计算可识别和不可识别的子空间，并在最小二乘意义上提供最优参数估计。在无噪声情况下，学习误差指数收敛至零，为分布式参数学习提供了新视角。

本研究探讨在随机选择边权的无向图模型中学习Sherrington-Kirkpatrick模型参数的问题，提出了一种增量权重更新算法，该算法能够在多项式时间内学习参数，分析相对简单，即使在高温模式之外。

本研究提出了一种随机ARMA模型，通过将经典ARMA模型转化为有向图形式，利用EM算法进行参数学习和预测，尤其在数据缺失情况下表现优越。实验结果显示，该模型在平滑和预测精度上均有显著提升，并探讨了非平稳系统分析及相关算法的统一，推动了非平稳现象的研究进展。

本文介绍了求和积网络（SPN）及其在图形建模推理中的应用，强调其在图像完成任务中的优越性。研究探讨了SPN与贝叶斯网络的关系，提出了新的参数学习方法和算法，展示了SPN在结构化预测中的有效性。此外，文章介绍了新型概率模型XSPN和图感知积-和网络（GSPN），并通过实验验证了其在处理缺失数据和图像分类中的优势。

本文探讨了期望最大化（EM）算法在高维潜变量模型中的应用，提出了一种结合稀疏结构的新型高维EM算法。研究了高斯混合模型的梯度EM算法，证明其全局收敛性，并分析了学习过参数化GMM的挑战。此外，提出了基于边界优化的参数学习方法，强调数据预处理对算法性能的影响。

本文研究了自监督学习方法在多语言机器翻译中的应用。通过结合噪声消除的自监督任务和原有任务，性能在8种和15种语言基准测试中分别提高了11.3％和3.7％。

本文提出了一个处理深度神经网络中灾难性遗忘问题的框架，通过优化神经结构和参数学习等两个组件，缓解灾难性遗忘问题的能力强，连续学习时优于多个数据集上的基线。