奇异值分解（SVD）是一种强大的矩阵分解技术，但在处理大矩阵时计算成本高。随机SVD通过随机投影有效地近似SVD，首先生成高斯随机矩阵，对数据矩阵进行压缩，最后进行QR分解和SVD以获得近似结果。

本文探讨了在正交约束下求解非方阵最速下降方向的方法，提出了一种基于迭代算法的解决方案，涉及矩阵谱范数和切空间的概念。通过数值算法和奇异值分解（SVD）技术，解决了优化问题，并比较了不同方法的效果。

本研究提出了一种基于奇异值分解的最小二乘法（SVD-LS）框架，通过自监督和迁移学习提取深度特征，实现多类别肺炎的准确诊断，显著降低计算成本，适用于实时医学影像。

本研究提出了一种名为AC-LoRA的新方法，解决个性化图像生成中LoRA参数调整的问题。该方法通过奇异值分解和动态启发式算法，实现了快速高效的个性化艺术风格图像生成，模型适应性显著提高，验证结果显示多个指标平均提升9%。

本研究提出了一种新的可学习层级扩展方法LESA，旨在解决大规模语言模型训练中的高计算资源需求。通过层参数结合和奇异值分解，LESA优化了模型初始化，提升了训练速度，实验结果表明其性能优于现有基线，并降低了计算成本。

该研究提出了一种利用奇异值分解探索扩散模型潜在空间的新方法，识别出三个关键属性以控制生成结果，并基于此开发了新颖的图像编辑框架，展现出显著的效果和应用潜力。

EDoRA方法通过奇异值分解将预训练权重分解为大小和方向分量，冷冻低秩矩阵，并引入小的可训练矩阵，显著减少可训练参数，最多可减少30倍，同时保持学习能力。实验表明，EDoRA在GLUE基准测试中表现优异，适用于资源受限环境的多任务适应。

本研究提出了一种低成本的混合机器学习模型LC-SVD-DLinear，旨在解决稀疏测量数据导致的高分辨率流体力学数据预测问题。该模型结合了奇异值分解和DLinear架构，能够有效捕捉时间数据的非线性动态，显著降低计算成本，并展现出良好的预测与重建能力。

本研究提出了一种新颖的参数高效微调方法，解决了预训练视觉变换器在下游任务中的适应性不足问题。该方法通过奇异值分解和Householder变换构造正交矩阵，显著提升了微调效果，实验结果表明其在视觉任务中表现优异。

我们提出了一种解决存在隐藏共变量的因果效应估计问题的方法，主要关注工具变量回归和代理因果学习。我们的方法使用条件期望算子的奇异值分解和鞍点优化问题，优于现有方法。

本文研究了多维欧氏空间中寻找一个 k 维子空间 F，使得一组 n 个点到该子空间的 p 次方欧氏距离和最小的问题。进一步探讨了在某些损失函数 M () 下此问题的最优解。这些鲁棒子空间可替代奇异值分解（SVD）提供更有效的解决方案，对于典型的 M-Estimators，对离群值的鲁棒性更强。给出了一些这些鲁棒子空间逼近问题的算法和难度结果。

该研究通过分析神经网络权重的奇异值分解，探究了神经网络的学习动力学。研究发现，在训练过程中，每个多维权重的SVD表示中存在一个稳定的正交基。基于此，研究提出了一种新的训练方法，即利用神经网络的内在正交性的OIALR训练。通过基准测试，证明了OIALR在各种数据集和网络架构上的准确度损失最小，可以超越传统的训练设置。

该研究探讨了深度神经网络的训练和网络参数之间的复杂动力学关系，发现训练网络往往沿着单一方向进行训练，被称为漂移模式。通过损失函数的二次势模型，解释了这种漂移模式，并提出其向潜在值的指数级缓慢衰减。通过奇异值分解，对权重矩阵进行了分解，以实用的方式识别 Hessian 内的关键方向，同时考虑其大小和曲率。最后，提出了一种有效的策略来缓解神经网络在学习新任务时遗忘之前任务知识的挑战。

本文介绍了一种新的平滑 PEP 方法，通过应用 Nesterov 平滑到 LASSO-type L1 惩罚上，可以更快、更高效地最小化与优化问题相关的目标函数。同时，使用奇异值分解的已建立结果可以计算更高级的特征向量。实证研究表明，这种平滑 PEP 方法可以提高数值稳定性并获得有意义的特征向量，比传统 PCA 更有效。