本文介绍了一种名为群组稀疏性加性模型（GroupSpAM）的方法，旨在处理加性模型中的群组稀疏性。通过引入l1/l2范数作为稀疏惩罚，提出新的阈值条件和高效的块坐标下降算法，实验证明其在恢复和预测准确性上优于其他方法。此外，研究探讨了基于组稀疏模型的选择问题及其在分类模型训练中的应用，显示出在不同组别和少数族裔上的优越表现。

本文提出了一种新的随机优化算法，结合块坐标下降和矩阵草图技术，显著改善了线性系统的收敛性能和迭代速度。研究表明，算法的收敛性与矩阵的条件数相关，利用稀疏随机草图构建低秩近似，可以更快速地解决线性代数问题。

本文提出了一种结合块坐标下降和矩阵草图技术的随机优化算法，显著提高了线性系统的收敛性能和迭代速度。研究了谱尾条件数对迭代方法的影响，并确保在特定条件下时间复杂度为 O((kappa_l*n^2*log(1/ε))。此外，介绍了适用于对称矩阵的低复杂度预处理方法和改进的线性系统求解器，实验结果表明该方法在不同精度下均优于现有技术。

该文综述神经网络优化研究，指出SGD可克服局部最优；训练两层网络时首层权重收敛于真实主子空间，泛化误差与宽度无关，样本复杂度随维度线性增长，优于神经切向核；并介绍二阶、多目标、稀疏训练及块坐标下降等算法，以提升收敛速度与效率。

该文综述深度网络优化的多凸与块坐标下降方法，提出光滑多凸形式及BCD训练算法，具全局与R-线性收敛，实验优于Caffe各SGD变体；并涵盖两三分结构BCD、DC外推算法、近似BCD统一框架、prox-linear算法及深度线性网络线性收敛等结果。