Lei Mao's Log Book
·
随机奇异值分解
💡
原文英文，约1700词，阅读约需6分钟。
📝
内容提要
奇异值分解（SVD）是一种强大的矩阵分解技术，但在处理大矩阵时计算成本高。随机SVD通过随机投影有效地近似SVD，首先生成高斯随机矩阵，对数据矩阵进行压缩，最后进行QR分解和SVD以获得近似结果。
🎯
关键要点
- 奇异值分解（SVD）是一种强大的矩阵分解技术，广泛应用于机器学习、数据压缩和信号处理等领域。
- 在处理大矩阵时，直接执行SVD计算成本高，因此随机SVD通过随机投影有效地近似SVD。
- 随机SVD算法的基本思想是生成高斯随机矩阵，对数据矩阵进行压缩，然后进行QR分解和SVD以获得近似结果。
- 正交归一列是随机SVD的基础，正交投影矩阵可以将向量投影到正交列空间。
- QR分解是一种将矩阵分解为正交矩阵和上三角矩阵的技术，可以用于生成正交基。
- SVD将矩阵分解为三个矩阵的乘积，能够有效地进行数据压缩，减少存储需求。
- 随机SVD通过将数据矩阵投影到较小的列空间来减少计算复杂度，首先生成一个随机矩阵，然后进行QR分解。
- 随机SVD的步骤包括生成高斯随机矩阵、计算缩小的数据矩阵、进行QR分解、计算小矩阵B、对B进行SVD以及重构近似的SVD分解。
